Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Nếu bạn chưa nghe về Roko's Basilisk thì đây, nó đây.

Elon Musk vừa mới xuất hiện cùng ca sĩ, nhạc sĩ nhạc điện tử Grimes tại Gala MET hôm đầu tuần vừa rồi. Họ đẹp đôi một cách đáng ngạc nhiên, họ đến với nhau nhờ … trí tuệ nhân tạo. Mạng Internet cũng ủng hộ cặp này cũng hết mình bằng meme và những thứ linh tinh khác.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 1.

Trước khi họ xuất hiện trước công chúng lần đầu tiên, Musk đăng tải lên Twitter một dòng trạng thái: một câu chơi chữ với tựa đề "Rococo’s Basilisk". Đó là sự kết hợp giữa phong cách nghệ thuật baroque của thế kỷ 18 (được gọi là Rococo) với một thí nghiệm giả định về trí tuệ nhân tạo có tên là "Roko’s Basilisk".

Theo như tờ tạp chí Page Six, nơi đầu tiên thông báo cho bàn dân thiên hạ biết hai con người này đang hẹn hò, thì chính câu đùa này là thứ đưa hai người tới với nhau: Musk hí hửng tưởng mình nghĩ ra câu chơi chữ này, nhưng khi biết được rằng cô nhạc sĩ Grimes đã nghĩ ra nó trước Musk tận 3 năm lận, Musk đã có đôi lời qua lại và có vẻ đã "tán đổ" Grimes.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 2.

Grimes.

Đoán làm sao được nội dung đoạn hội thoại tán tỉnh giữa một ông tỉ phú hai vai cả đống dự án thay đổi thế giới và một cô ca sĩ hai tay đầy đĩa Bạch kim, nhưng ta vẫn biết kết quả của cuộc nói chuyện ấy: họ đang hẹn hò.

Vậy Roko’s basilisk, thứ đưa họ tới với nhau, là gì?

Thí nghiệm giả định này có nguồn gốc từ một bài đăng của người dùng có tên Roko trên Less Wrong, một forum và blog về tâm lý học và về trí tuệ nhân tạo. Tóm gọn lại, thí nghiệm này nói về những điều kiện hợp lý cho một siêu trí tuệ nhân tạo của tương lai giết bất kì người nào không giúp nó tồn tại.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 3.

Bối cảnh thí nghiệm này dựa trên giả thuyết do cha đẻ của forum Less Wrong, Eliezer Yudkowsky đặt ra, có tên là Ý chí Ngoại suy Chặt chẽ - Coherent Extrapolated Volition, viết tắt là CEV. Bản chất cái giả thuyết này thì rất phức tạp và nhiều khía cạnh, nhưng khi áp dụng vào thí nghiệm giả định của Roko, nó có thể được coi là một chương trình giả định tạo ra một siêu trí tuệ nhân tạo có những hành động phục vụ con người tốt nhất có thể, để đạt được "mức tốt cho con người".

Nhưng nếu một siêu trí tuệ cứ tiếp tục đưa ra những hành động tốt nhất để con người có được điều kiện sống tốt nhất, nó sẽ không bao giờ ngừng theo đuổi cái mục đích ấy bởi lẽ bất kì thứ gì cũng vẫn có thể "tốt hơn chút nữa".

Trên đời chẳng có gì hoàn hảo, nên là chẳng có cách nào đạt được "mức tốt cho con người". Lúc ấy, siêu trí tuệ nhân tạo sẽ đưa ra những quyết định trái ngược với những gì mà chúng ta cho là tốt: nó sẽ tiêu diệt bất kì ai không giúp nó tồn tại. Đừng từ phương diện của siêu trí tuệ nhân tạo mà nói, thì những gì nó làm hoàn toàn logic: để đạt được "mức tốt cho con người", việc tốt nhất cần làm sẽ phải là đưa hệ thống trí tuệ nhân tạo này đi vào hoạt động. Ai đứng ra ngăn cản, thì cá nhân đó sẽ phải bị loại bỏ để hướng tới một mục đích cao cả hơn.

Rất xin lỗi khi đã kể cho bạn về Roko’s Basilisk: vì bây giờ, bạn đã không có lý do nào để ngăn cản một hệ thống siêu trí tuệ nhân tạo được khởi động, hoạt động và kiểm soát mọi thứ rồi.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 4.

Nói một chút về cái tên Roko’s Basilisk. Roko là tên của người dùng đã đăng tải thí nghiệm giả định này lên, còn "Basilisk" là danh tự dựa trên truyện ngắn giả tưởng được viết bởi David Langford, về một loại ảnh có tên là "basilisk", chứa những đường nét có thể giết bất kì ai nhìn thấy nó. Trong mẩu truyện ngắn này, những người tạo ra "basilisk" đã ném những tấm ảnh giết người này ra những nơi công cộng để xem cách "basilisk" hoạt động.

Khi Roko đăng tải thí nghiệm này lên Less Wrong, nhà sáng lập forum Yudkowsky đã tức giận tột cùng, thẳng tay xóa bài và cấm toàn bộ người dùng bàn luận về Roko’s Basilisk trong 5 năm.

Anh đã viết những dòng này:

Nghe cho kĩ đây, đồ ngốc.

Đừng bao giờ có suy nghĩ chi tiết về việc siêu trí tuệ xem xét xem có đe dọa mình không, bởi đó sẽ là thứ duy nhất sẽ cho chúng động cơ để mà đưa ra lời đe dọa đấy. (toàn bộ đoạn này được viết hoa)

Anh phải thực sự thông minh lắm mới nghĩ ra được một suy nghĩ thực sự nguy hiểm đến vậy đấy nhỉ. Mà tôi cũng thực sự nản lòng khi thấy người ta đủ thông minh để nghĩ ra nó, mà lại chẳng đủ khôn ngoan để làm điều hiển nhiên, đó là NGẬM CÁI MIỆNG DỐT NÁT CỦA MÌNH LẠI, bởi lẽ việc cố tỏ ra thông minh hẳn là phải quan trọng lắm nhỉ.

Bài đăng này quả thực quá DỐT NÁT.

1200px-eliezer_yudkowsky,_stanford_2006_(square_crop)

Yudkowsky sau này có giải thích về những hành động mình đã thực hiện. Anh chủ forum năm nay 38 tuổi nói rằng thí nghiệm giả định của Roko có tiềm năng vượt qua những trở ngại công nghệ mà ta vẫn có, và kể cả nếu điều này có thể diễn ra, thì hành động của Roko chẳng khác gì những kẻ ác trong truyện ngắn của Langford cả.

"Tôi sững lại trong bất ngờ bởi lẽ tôi đã quá căm phẫn, đến mức sang chấn tâm lý khi nhìn thấy một khái niệm ai đó đưa ra, chính họ nghĩ rằng mình vừa tạo ra một ý tưởng tuyệt vời cho phép AI của tương lai có thể tấn công con người, rồi đăng tải ý tưởng tuyệt vời ấy lên mạng", Yudkowsky giải thích lý do tại sao anh đã hành động như vậy.

Sau khi tìm hiểu xong, chắc hẳn bạn chẳng ngạc nhiên khi biết Musk hứng thú với Roko’s Basilisk như vậy: chẳng ít lần Musk cảnh báo với nhân loại rằng AI sẽ là mối nguy của nhân loại.

Nói là lo xa cũng không ngoa, bởi trí tuệ nhân tạo vẫn đang trong giai đoạn phát triển. AI vẫn chưa phân biệt được những hình ảnh đơn giản. Nhưng lo xa luôn là một điều tốt: tương lai của vũ khí tự động quả thực quá nguy hiểm, ảnh hưởng trực tiếp tới sự tính mạng con người. Và cái mức độ nguy hiểm của Roko’s Basilisk còn vượt trên cả mối đe dọa từ súng đạn: nó đe dọa tới sự sống còn của nhân loại.

Nhưng tương lai của Roko’s Basilisk có đen tối mấy, bạn cũng hãy nhìn về mặt tốt của nó: chính nó đã đưa Elon Musk và Grimes lại với nhau.

Tham khảo Motherboard

Khoảng cách địa lý chính là yếu tố quan trọng quyết định đội tuyển nào sẽ vô định World Cup 2018

tinybook tinybook 1 tuần 1 ngày
Khoảng cách địa lý chính là yếu tố quan trọng quyết định đội tuyển nào sẽ vô định World Cup 2018
Vận động viên chuyên nghiệp cũng là con người nhưng có điều kiện thể chất và phản xạ tốt hơn. Tuy nhiên, thể lực của họ bị ảnh hưởng nặng nề bởi những chuyến bay dài.

Núi lửa Hawaii phun ra cả đá quý, mưa xuống cho người dân Hawaii tha hồ nhặt

tinybook tinybook 1 tuần 2 ngày
Núi lửa Hawaii phun ra cả đá quý, mưa xuống cho người dân Hawaii tha hồ nhặt
Có lẽ đây là cách núi lửa Kīlauea xin lỗi vì tàn phá mọi thứ nặng nề quá.

Cùng xem ngôi sao YouTube Casey Neistat "cưỡi" chiếc ô tô bay đầu tiên

tinybook tinybook 1 tuần 2 ngày
Cùng xem ngôi sao YouTube Casey Neistat "cưỡi" chiếc ô tô bay đầu tiên
Casey Neistat đã đăng tải video trải nghiệm lần đầu điều khiển chiếc ô tô bay của hãng Kitty Hawk lên kênh YouTube của mình.

Thót tim với cuộc đua marathon trên những sợi dây treo lơ lửng cách 100 mét so với mặt đất

tinybook tinybook 1 tuần 2 ngày
Thót tim với cuộc đua marathon trên những sợi dây treo lơ lửng cách 100 mét so với mặt đất
Với những người không đủ sự can đảm, có lẽ chỉ riêng việc nhìn xuống dưới từ độ cao 100 mét đã là một điều cực kỳ khó khăn chứ chưa nói đến việc di chuyển một quãng đường dài tới 100 mét như những vận động viên này.

FIFA World Cup 2018 năm nay có những thứ công nghệ hiện đại tuyệt vời, hứa hẹn mùa bóng công bằng chưa từng có

tinybook tinybook 1 tuần 2 ngày
FIFA World Cup 2018 năm nay có những thứ công nghệ hiện đại tuyệt vời, hứa hẹn mùa bóng công bằng chưa từng có
Công nghệ hòa mình một cách êm ái vào bóng đá, cho ta những trận cầu đỉnh cao và công bằng chưa từng có.

"Tiêu tan" khối u ung thư chỉ với 1 mũi tiêm duy nhất: Chủ tịch Hội ung thư Việt Nam nói gì?

tinybook tinybook 1 tuần 3 ngày
"Tiêu tan" khối u ung thư chỉ với 1 mũi tiêm duy nhất: Chủ tịch Hội ung thư Việt Nam nói gì?
Thông tin một phụ nữ người Mỹ khỏi ung thư vú di căn nhờ áp dụng phương pháp điều trị ung thư mới đã khiến nhiều bệnh nhân mong chờ phương pháp này được thực hiện ở Việt Nam.

Nước Mỹ vươn lên vị trí bá chủ siêu máy tính, với con quái vật Summit xử lý được 200 triệu tỉ phép tính một giây

tinybook tinybook 1 tuần 4 ngày
Nước Mỹ vươn lên vị trí bá chủ siêu máy tính, với con quái vật Summit xử lý được 200 triệu tỉ phép tính một giây
Đã 5 năm rồi, Mỹ mới quay lại vị thế "siêu máy tính mạnh nhất hành tinh" này.

5 công nghệ tiên tiến trong thế giới giả tưởng của Westworld và bao giờ ta có được chúng

tinybook tinybook 1 tuần 4 ngày
5 công nghệ tiên tiến trong thế giới giả tưởng của Westworld và bao giờ ta có được chúng
Những sản phẩm giả tưởng luôn bị giới hạn bởi một thứ duy nhất: sức sáng tạo, trí tưởng tượng của con người.

Khi máy hủy tài liệu được nâng cấp động cơ tới 44.400rpm, tốc độ cắt giấy nhanh tới nỗi không kịp quan sát

tinybook tinybook 1 tuần 4 ngày
Khi máy hủy tài liệu được nâng cấp động cơ tới 44.400rpm, tốc độ cắt giấy nhanh tới nỗi không kịp quan sát
Đừng dại để tay hoặc bất cứ thứ gì gần máy hủy tài liệu này nếu bạn không muốn có kết cục giống những tờ giấy bị “hành hình” chỉ trong vòng chưa đầy một nốt nhạc này.

Các yếu tố khoa học đằng sau quả bóng World Cup 2018: bay ổn định hơn, lợi cho cả người sút lẫn người bắt

tinybook tinybook 1 tuần 4 ngày
Các yếu tố khoa học đằng sau quả bóng World Cup 2018: bay ổn định hơn, lợi cho cả người sút lẫn người bắt
Trái với những gì các thủ môn đã phàn nàn, các nhà khoa học lại có những nhận định khác.

Chẳng có thứ lông tự nhiên nào "thần thánh" được như thế này: kháng cả lửa và nước, bền đến nỗi dùng để bện cầu treo

tinybook tinybook 1 tuần 5 ngày
Chẳng có thứ lông tự nhiên nào "thần thánh" được như thế này: kháng cả lửa và nước, bền đến nỗi dùng để bện cầu treo
Tất nhiên là chất lượng đi đôi với một mác giá không rẻ.

Google vẫn hợp tác với các cơ quan quân sự, nhưng sẽ không bao giờ phát triển vũ khí AI

tinybook tinybook 1 tuần 5 ngày
Google vẫn hợp tác với các cơ quan quân sự, nhưng sẽ không bao giờ phát triển vũ khí AI
Đó là một phần nội dung của bộ quy tắc mới được Google công bố, sau những lùm xùm và chỉ trích liên quan đến dự án Maven - dự án sử dụng AI để phân tích những video theo dõi được drone quân sự quay lại.

Bí ẩn sau những tài liệu đã mất tích của Tesla: Đáng sợ đến mức nó sẽ không bao giờ được thấy ánh sáng ban ngày?

tinybook tinybook 1 tuần 5 ngày
Bí ẩn sau những tài liệu đã mất tích của Tesla: Đáng sợ đến mức nó sẽ không bao giờ được thấy ánh sáng ban ngày?
Để ngăn ngừa nguy cơ thứ vũ khí chết người này vào tay quân địch, chính phủ Mỹ đã lập tức chiếm giữ toàn bộ tài sản và tư liệu từ phòng khách sạn của Tesla tại New York.

Công nghệ AI và Robot phát triển là thế, tại sao mãi vẫn chưa có Robot người giúp việc?

tinybook tinybook 1 tuần 6 ngày
Công nghệ AI và Robot phát triển là thế, tại sao mãi vẫn chưa có Robot người giúp việc?
Với sự phát triển của công nghệ Robot và AI như hiện tại, một trong những câu hỏi khiến rất nhiều người cảm thấy băn khoăn đó là: tại sao vẫn chưa ai tạo ra được robot giúp việc nhà?

Sự trùng hợp đáng kinh ngạc khiến cho Mặt Trăng và Mặt Trời không cùng kích cỡ mà vẫn che khuất được nhau

tinybook tinybook 1 tuần 6 ngày
Sự trùng hợp đáng kinh ngạc khiến cho Mặt Trăng và Mặt Trời không cùng kích cỡ mà vẫn che khuất được nhau
Một sự trùng hợp chưa từng thấy tại bất kì hành tinh nào trong Vũ trụ.

Có thể bạn chưa biết: Cơ thể chúng ta có đến hai bộ não!

tinybook tinybook 1 tuần 6 ngày
Có thể bạn chưa biết: Cơ thể chúng ta có đến hai bộ não!
Thậm chí bộ não thứ hai còn có những "cảm xúc" của riêng mình.

Thước phim hiếm có: Một mảnh thiên thạch chạm đất, sáng lóa cả một vùng trời

tinybook tinybook 2 tuần 1 giờ
Thước phim hiếm có: Một mảnh thiên thạch chạm đất, sáng lóa cả một vùng trời
Nhưng có chắc đây là thiên thạch không nhỉ? NASA chỉ phát hiện ra thứ này vài giờ trước khi nó chạm đất.

Ngỡ ngàng trước ảo giác khiến Mặt Trăng như một khối cầu khổng lồ lao xuống mặt đất

tinybook tinybook 2 tuần 2 giờ
Ngỡ ngàng trước ảo giác khiến Mặt Trăng như một khối cầu khổng lồ lao xuống mặt đất
Bạn đừng nhầm hình ảnh Mặt Trăng khổng lồ đang lặn xuống này giống với cảnh trong một bộ phim viễn tưởng nào đó bởi đây hoàn toàn là một thủ thuật tạo ảo giác rất đặc biệt trong nhiếp ảnh.

Hacker chứng minh rằng nếu có máy tính đủ mạnh, Bitcoin và blockchain hoàn toàn có thể bị hack

tinybook tinybook 2 tuần 20 giờ
Hacker chứng minh rằng nếu có máy tính đủ mạnh, Bitcoin và blockchain hoàn toàn có thể bị hack
Bitcoin và các đồng tiền mã hóa đang đứng trước những mối đe dọa mới.

Mặt Trăng đang từ từ làm cho 1 ngày trên Trái Đất trở nên dài hơn, 1,4 tỷ năm trước 1 ngày chỉ có 18 tiếng

tinybook tinybook 2 tuần 22 giờ
Mặt Trăng đang từ từ làm cho 1 ngày trên Trái Đất trở nên dài hơn, 1,4 tỷ năm trước 1 ngày chỉ có 18 tiếng
Trung bình mỗi năm một ngày trên Trái Đất lại dài thêm 0,00001542857 giây.

NASA: Tìm thấy vật chất hữu cơ cổ đại trên Sao Hỏa, các nhà khoa học đang "đi đúng hướng" để tìm ra dấu vết sự sống

tinybook tinybook 2 tuần 1 ngày
NASA: Tìm thấy vật chất hữu cơ cổ đại trên Sao Hỏa, các nhà khoa học đang "đi đúng hướng" để tìm ra dấu vết sự sống
Liệu có phải Sao Hỏa đã từng có sự sống và vẫn có thể đang có sự sống?

Kết quả họp báo NASA: Tìm ra dấu vết của sự sống trên sao Hỏa trong quá khứ, và có thể bây giờ vẫn còn

tinybook tinybook 2 tuần 1 ngày
Kết quả họp báo NASA: Tìm ra dấu vết của sự sống trên sao Hỏa trong quá khứ, và có thể bây giờ vẫn còn
Các bằng chứng mới đây cho thấy nhiều khả năng sao Hỏa đã từng nuôi dưỡng sự sống trong quá khứ. Và thậm chí có thể là cả bây giờ.

Thuật toán mới của Quân đội Mỹ sẽ giúp tính ra lượng caffeine để bạn đạt hiệu suất làm việc cao nhất

tinybook tinybook 2 tuần 1 ngày
Thuật toán mới của Quân đội Mỹ sẽ giúp tính ra lượng caffeine để bạn đạt hiệu suất làm việc cao nhất
Quân đội muốn bạn phải tỉnh táo để làm nhiệm vụ ngày đêm!

Bằng cách cực kì khéo léo, anh chàng này đã chứng minh rằng Trái Đất không phải là hình phẳng

tinybook tinybook 2 tuần 1 ngày
Bằng cách cực kì khéo léo, anh chàng này đã chứng minh rằng Trái Đất không phải là hình phẳng
Cách chứng minh của anh chàng này chắc chắn sẽ khiến những ai tin Trái Đất hình phẳng phải suy nghĩ lại.

Hi hữu vụ việc bác sỹ kiện bệnh nhân 1 triệu USD chỉ vì tội đánh giá phòng khám 1 sao trên mạng Internet

tinybook tinybook 2 tuần 1 ngày
Hi hữu vụ việc bác sỹ kiện bệnh nhân 1 triệu USD chỉ vì tội đánh giá phòng khám 1 sao trên mạng Internet
Một người phụ nữ sống tại New York có nguy cơ phải trả số tiền bị kiện lên tới 1 triệu USD sau khi đánh giá phòng khám tư nhân của một bác sỹ ở Manhattan mà cô đã tới đó hồi năm ngoái với điểm số 1 sao.

Nghiên cứu cho thấy trò chơi điện tử rất có ích với bác sỹ phẫu thuật

tinybook tinybook 2 tuần 1 ngày
Nghiên cứu cho thấy trò chơi điện tử rất có ích với bác sỹ phẫu thuật
Không đơn thuần chỉ là thú vui vô bổ mất thời gian, trò chơi điện tử rất có ích trong việc gia tăng sự phối hợp tay-mắt của bạn.

Thế giới dưới mắt của các loài khác nhau: mắt con người nhìn cực kì sắc nét, hóa ra ruồi muỗi "cận nặng", chẳng nhìn thấy cái gì cả

tinybook tinybook 2 tuần 2 ngày
Thế giới dưới mắt của các loài khác nhau: mắt con người nhìn cực kì sắc nét, hóa ra ruồi muỗi "cận nặng", chẳng nhìn thấy cái gì cả
Đôi mắt của con người thường không được xếp loại cao trong thế giới các loài vật, loài mèo có thể nhìn rất rõ trong bóng tối và một vài loài nhện có đến 12 con mắt trừng trừng nhìn bạn.

Chuyện gì xảy ra nếu bạn ăn phải chất phóng xạ uranium?

tinybook tinybook 2 tuần 2 ngày
Chuyện gì xảy ra nếu bạn ăn phải chất phóng xạ uranium?
Nhân loại vẫn chưa ghi nhận ai đủ dũng cảm để tống cả 1 bát đầy uranium vào bụng...

Tương lai loài người sẽ 'trông cậy' vào loài gián: Từ thần dược chữa ung thư, dọn rác thải cho đến đảm bảo an ninh lương thực!

tinybook tinybook 2 tuần 2 ngày
Tương lai loài người sẽ trông cậy vào loài gián: Từ thần dược chữa ung thư, dọn rác thải cho đến đảm bảo an ninh lương thực!
Tại Sơn Đông, số trang trại nuôi gián đã tăng gấp 3 lần lên khoảng 400 chỉ trong vòng 3 năm qua và số nghiên cứu về tác dụng của loài động vật này cũng tăng chóng mặt. Tại tỉnh Tứ Xuyên, các nhà đầu tư thậm chí đã xây dựng phòng nghiên cứu với 6 tỷ con gián để tìm thuốc chữa ung thư.

Nghiên cứu đột phá mới xác nhận Hạt Của Chúa - Hạt Higgs có một người bạn, tỉ lệ phát hiện ra "tình bạn" này chỉ là 1%

tinybook tinybook 2 tuần 2 ngày
Nghiên cứu đột phá mới xác nhận Hạt Của Chúa - Hạt Higgs có một người bạn, tỉ lệ phát hiện ra "tình bạn" này chỉ là 1%
Hiểu hơn về vật lý, hiểu hơn về cách thức thế giới này hoạt động, ta mới có thể biết được cách xoay chuyển vật lý cơ bản theo ý muốn để tự phục vụ mình.sdafsdf
tinybook Công Nghệ Thông Tin








Chat