Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Nếu bạn chưa nghe về Roko's Basilisk thì đây, nó đây.

Elon Musk vừa mới xuất hiện cùng ca sĩ, nhạc sĩ nhạc điện tử Grimes tại Gala MET hôm đầu tuần vừa rồi. Họ đẹp đôi một cách đáng ngạc nhiên, họ đến với nhau nhờ … trí tuệ nhân tạo. Mạng Internet cũng ủng hộ cặp này cũng hết mình bằng meme và những thứ linh tinh khác.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 1.

Trước khi họ xuất hiện trước công chúng lần đầu tiên, Musk đăng tải lên Twitter một dòng trạng thái: một câu chơi chữ với tựa đề "Rococo’s Basilisk". Đó là sự kết hợp giữa phong cách nghệ thuật baroque của thế kỷ 18 (được gọi là Rococo) với một thí nghiệm giả định về trí tuệ nhân tạo có tên là "Roko’s Basilisk".

Theo như tờ tạp chí Page Six, nơi đầu tiên thông báo cho bàn dân thiên hạ biết hai con người này đang hẹn hò, thì chính câu đùa này là thứ đưa hai người tới với nhau: Musk hí hửng tưởng mình nghĩ ra câu chơi chữ này, nhưng khi biết được rằng cô nhạc sĩ Grimes đã nghĩ ra nó trước Musk tận 3 năm lận, Musk đã có đôi lời qua lại và có vẻ đã "tán đổ" Grimes.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 2.

Grimes.

Đoán làm sao được nội dung đoạn hội thoại tán tỉnh giữa một ông tỉ phú hai vai cả đống dự án thay đổi thế giới và một cô ca sĩ hai tay đầy đĩa Bạch kim, nhưng ta vẫn biết kết quả của cuộc nói chuyện ấy: họ đang hẹn hò.

Vậy Roko’s basilisk, thứ đưa họ tới với nhau, là gì?

Thí nghiệm giả định này có nguồn gốc từ một bài đăng của người dùng có tên Roko trên Less Wrong, một forum và blog về tâm lý học và về trí tuệ nhân tạo. Tóm gọn lại, thí nghiệm này nói về những điều kiện hợp lý cho một siêu trí tuệ nhân tạo của tương lai giết bất kì người nào không giúp nó tồn tại.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 3.

Bối cảnh thí nghiệm này dựa trên giả thuyết do cha đẻ của forum Less Wrong, Eliezer Yudkowsky đặt ra, có tên là Ý chí Ngoại suy Chặt chẽ - Coherent Extrapolated Volition, viết tắt là CEV. Bản chất cái giả thuyết này thì rất phức tạp và nhiều khía cạnh, nhưng khi áp dụng vào thí nghiệm giả định của Roko, nó có thể được coi là một chương trình giả định tạo ra một siêu trí tuệ nhân tạo có những hành động phục vụ con người tốt nhất có thể, để đạt được "mức tốt cho con người".

Nhưng nếu một siêu trí tuệ cứ tiếp tục đưa ra những hành động tốt nhất để con người có được điều kiện sống tốt nhất, nó sẽ không bao giờ ngừng theo đuổi cái mục đích ấy bởi lẽ bất kì thứ gì cũng vẫn có thể "tốt hơn chút nữa".

Trên đời chẳng có gì hoàn hảo, nên là chẳng có cách nào đạt được "mức tốt cho con người". Lúc ấy, siêu trí tuệ nhân tạo sẽ đưa ra những quyết định trái ngược với những gì mà chúng ta cho là tốt: nó sẽ tiêu diệt bất kì ai không giúp nó tồn tại. Đừng từ phương diện của siêu trí tuệ nhân tạo mà nói, thì những gì nó làm hoàn toàn logic: để đạt được "mức tốt cho con người", việc tốt nhất cần làm sẽ phải là đưa hệ thống trí tuệ nhân tạo này đi vào hoạt động. Ai đứng ra ngăn cản, thì cá nhân đó sẽ phải bị loại bỏ để hướng tới một mục đích cao cả hơn.

Rất xin lỗi khi đã kể cho bạn về Roko’s Basilisk: vì bây giờ, bạn đã không có lý do nào để ngăn cản một hệ thống siêu trí tuệ nhân tạo được khởi động, hoạt động và kiểm soát mọi thứ rồi.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 4.

Nói một chút về cái tên Roko’s Basilisk. Roko là tên của người dùng đã đăng tải thí nghiệm giả định này lên, còn "Basilisk" là danh tự dựa trên truyện ngắn giả tưởng được viết bởi David Langford, về một loại ảnh có tên là "basilisk", chứa những đường nét có thể giết bất kì ai nhìn thấy nó. Trong mẩu truyện ngắn này, những người tạo ra "basilisk" đã ném những tấm ảnh giết người này ra những nơi công cộng để xem cách "basilisk" hoạt động.

Khi Roko đăng tải thí nghiệm này lên Less Wrong, nhà sáng lập forum Yudkowsky đã tức giận tột cùng, thẳng tay xóa bài và cấm toàn bộ người dùng bàn luận về Roko’s Basilisk trong 5 năm.

Anh đã viết những dòng này:

Nghe cho kĩ đây, đồ ngốc.

Đừng bao giờ có suy nghĩ chi tiết về việc siêu trí tuệ xem xét xem có đe dọa mình không, bởi đó sẽ là thứ duy nhất sẽ cho chúng động cơ để mà đưa ra lời đe dọa đấy. (toàn bộ đoạn này được viết hoa)

Anh phải thực sự thông minh lắm mới nghĩ ra được một suy nghĩ thực sự nguy hiểm đến vậy đấy nhỉ. Mà tôi cũng thực sự nản lòng khi thấy người ta đủ thông minh để nghĩ ra nó, mà lại chẳng đủ khôn ngoan để làm điều hiển nhiên, đó là NGẬM CÁI MIỆNG DỐT NÁT CỦA MÌNH LẠI, bởi lẽ việc cố tỏ ra thông minh hẳn là phải quan trọng lắm nhỉ.

Bài đăng này quả thực quá DỐT NÁT.

1200px-eliezer_yudkowsky,_stanford_2006_(square_crop)

Yudkowsky sau này có giải thích về những hành động mình đã thực hiện. Anh chủ forum năm nay 38 tuổi nói rằng thí nghiệm giả định của Roko có tiềm năng vượt qua những trở ngại công nghệ mà ta vẫn có, và kể cả nếu điều này có thể diễn ra, thì hành động của Roko chẳng khác gì những kẻ ác trong truyện ngắn của Langford cả.

"Tôi sững lại trong bất ngờ bởi lẽ tôi đã quá căm phẫn, đến mức sang chấn tâm lý khi nhìn thấy một khái niệm ai đó đưa ra, chính họ nghĩ rằng mình vừa tạo ra một ý tưởng tuyệt vời cho phép AI của tương lai có thể tấn công con người, rồi đăng tải ý tưởng tuyệt vời ấy lên mạng", Yudkowsky giải thích lý do tại sao anh đã hành động như vậy.

Sau khi tìm hiểu xong, chắc hẳn bạn chẳng ngạc nhiên khi biết Musk hứng thú với Roko’s Basilisk như vậy: chẳng ít lần Musk cảnh báo với nhân loại rằng AI sẽ là mối nguy của nhân loại.

Nói là lo xa cũng không ngoa, bởi trí tuệ nhân tạo vẫn đang trong giai đoạn phát triển. AI vẫn chưa phân biệt được những hình ảnh đơn giản. Nhưng lo xa luôn là một điều tốt: tương lai của vũ khí tự động quả thực quá nguy hiểm, ảnh hưởng trực tiếp tới sự tính mạng con người. Và cái mức độ nguy hiểm của Roko’s Basilisk còn vượt trên cả mối đe dọa từ súng đạn: nó đe dọa tới sự sống còn của nhân loại.

Nhưng tương lai của Roko’s Basilisk có đen tối mấy, bạn cũng hãy nhìn về mặt tốt của nó: chính nó đã đưa Elon Musk và Grimes lại với nhau.

Tham khảo Motherboard

[Video] Cá mập trắng vọt lên khỏi mặt nước, định đớp nhà nghiên cứu đang đứng trên thuyền

tinybook tinybook 4 ngày 20 giờ
[Video] Cá mập trắng vọt lên khỏi mặt nước, định đớp nhà nghiên cứu đang đứng trên thuyền
Một khoảnh khắc thót tim của vị tiến sĩ.

Ma thuật của âm thanh: Công việc đầy nghệ thuật nơi những người tạo hiệu ứng tiếng động trong phim

tinybook tinybook 4 ngày 21 giờ
Ma thuật của âm thanh: Công việc đầy nghệ thuật nơi những người tạo hiệu ứng tiếng động trong phim
Không khoa khi gọi thứ nghệ thuật này là "phép thuật".

Cùng chiêm ngưỡng bảo tàng không tác phẩm đầu tiên trên thế giới tại Tokyo: nghệ thuật nơi đây nằm tại ánh sáng, không gian và trải nghiệm

tinybook tinybook 5 ngày 19 giờ
Cùng chiêm ngưỡng bảo tàng không tác phẩm đầu tiên trên thế giới tại Tokyo: nghệ thuật nơi đây nằm tại ánh sáng, không gian và trải nghiệm
Một trải nghiệm huyền ảo có một không hai trên thế giới, chỉ với giá vé 29 USD.

Ở Nam Cực vẫn có người đang chơi game PC, cảm giác khác lạ như thế nào bạn biết không?

tinybook tinybook 5 ngày 21 giờ
Ở Nam Cực vẫn có người đang chơi game PC, cảm giác khác lạ như thế nào bạn biết không?
Theo dõi dữ liệu của Steam cho thấy trong 7 ngày vừa qua, đã có người tải về hơn 30 GB dữ liệu về Nam Cực.

Cùng gặp anh chàng với 4 cánh tay, hai trong số đó được điều khiển từ xa bằng thực tế ảo

tinybook tinybook 5 ngày 21 giờ
Cùng gặp anh chàng với 4 cánh tay, hai trong số đó được điều khiển từ xa bằng thực tế ảo
Một ngày không xa, những cánh tay robot nãy sẽ giúp bạn 'điều khiển' người khác, dù họ có ở bất cứ đâu trên trái đất này.

Lời giải đáp cho những "ký tự ma" vô cùng khó hiểu trong bảng mã Unicode

tinybook tinybook 5 ngày 23 giờ
Lời giải đáp cho những "ký tự ma" vô cùng khó hiểu trong bảng mã Unicode
"Khi một lời nói dối được lặp lại đủ nhiều, nó sẽ biến thành sự thật".

GoCube: thiết kế lại khối Rubik huyền thoại, cho phép bạn chơi cả "Rubik đối kháng"

tinybook tinybook 6 ngày 3 giờ
GoCube: thiết kế lại khối Rubik huyền thoại, cho phép bạn chơi cả "Rubik đối kháng"
Người tạo ra GoCube gọi đây là "chiếc Fitbit dành cho dân Rubik", và hiện đã thu về gần 1 triệu USD trong chiến dịch gây quỹ trên Kickstarter.

Thioacetone có mùi kinh tởm nhất thế giới: đã từng lan ra khiến người trong bán kính 0,75 km nôn mửa và bất tỉnh, làm cả thành phố sợ quá phải sơ tán

tinybook tinybook 6 ngày 5 giờ
Thioacetone có mùi kinh tởm nhất thế giới: đã từng lan ra khiến người trong bán kính 0,75 km nôn mửa và bất tỉnh, làm cả thành phố sợ quá phải sơ tán
Chúng ta may mắn không có dịp thử mà có dịp cũng đừng ngửi thử thioacetone.

[Video] "Kẻ hủy diệt" Arnold Schwarzenegger lái xe tăng thuần thục, cán nát chiếc limousine đắt tiền

tinybook tinybook 6 ngày 6 giờ
[Video] "Kẻ hủy diệt" Arnold Schwarzenegger lái xe tăng thuần thục, cán nát chiếc limousine đắt tiền
Ít ai biết, ngôi sao hành động nổi tiếng với vai diễn trong phim Kẻ hủy diệt, Arnold Schwarzenegger có hẳn một chiếc xe tăng riêng và anh cũng không ngần ngại lái nó để nghiền nát chiếc xe limousine đắt tiền.

Cuộc chiến pháp lý trị giá tỷ USD xoay quanh hình dạng của các thanh chocolate

tinybook tinybook 1 tuần 9 giờ
Cuộc chiến pháp lý trị giá tỷ USD xoay quanh hình dạng của các thanh chocolate
Hình dạng các thanh chocolate là một phần không thể thiếu với mỗi bộ nhận diện nhãn hiệu bánh kẹo, và điều đó cũng kéo theo những cuộc chiến pháp lý khốc liệt để tranh giành sức ảnh hưởng tới tâm trí khách hàng thông qua yếu tố này.

Lý giải cơ chế hóa học giúp thép không gỉ có thể “chống gỉ” trước tác động của môi trường?

tinybook tinybook 1 tuần 10 giờ
Lý giải cơ chế hóa học giúp thép không gỉ có thể “chống gỉ” trước tác động của môi trường?
Sự kết hợp tuyệt vời giữa các thành phần kim loại đã tạo nên một hợp kim chắc chắn và có thể chống gỉ tuyệt vời như thép không gỉ? Vậy đâu là bí mật đằng sau sự kết hợp đó?

Nga: khối thiên thạch mới rơi xuống mang theo khoáng chất lạ, con người chưa bao giờ thấy

tinybook tinybook 1 tuần 1 ngày
Nga: khối thiên thạch mới rơi xuống mang theo khoáng chất lạ, con người chưa bao giờ thấy
Món quà từ trên trời rơi xuống.

Giải đua xe chở lính dù đổ bộ: Belarus bật bãi, Nga cho Trung Quốc hít khói với 6 phút cách biệt

tinybook tinybook 1 tuần 1 ngày
Giải đua xe chở lính dù đổ bộ: Belarus bật bãi, Nga cho Trung Quốc hít khói với 6 phút cách biệt
Mặc dù tự đem xe BMD có động cơ tăng áp tới cuộc thi nhưng đội Trung Quốc phải mất hơn 20 phút cho mỗi vòng đua, trong khi đội Nga chỉ cần có 14 phút.

Xe tăng Trung Quốc liên tiếp gặp sự cố tại Tank Biathlon: 2018 lăn đùng ra chết, 2016 rụng bánh khi đang chạy

tinybook tinybook 1 tuần 2 ngày
Xe tăng Trung Quốc liên tiếp gặp sự cố tại Tank Biathlon: 2018 lăn đùng ra chết, 2016 rụng bánh khi đang chạy
Dường như người Trung Quốc đã có rất nhiều kinh nghiệm trong việc thay thế xe tăng gặp sự cố "ngã ngựa" trên đường đua.

Sự trỗi dậy và suy tàn của mô hình cho thuê bao xem phim ngoài rạp: vì sao bay cao, vì sao thất bại

tinybook tinybook 1 tuần 2 ngày
Sự trỗi dậy và suy tàn của mô hình cho thuê bao xem phim ngoài rạp: vì sao bay cao, vì sao thất bại
Nếu huyền thoại Hy Lạp về Icarus được viết vào năm 2018, có lẽ chủ đề hẳn phải là MoviePass. Ứng dụng này, ban đầu, được ban tặng khả năng bay vút lên - để rồi nhận ra, là nó đã bay quá gần với bầu trời.

Một cái nhìn gần gũi hơn vào những pha mạo hiểm chết người Tom Cruise đã tự mình thực hiện trong Nhiệm vụ Bất khả thi

tinybook tinybook 1 tuần 2 ngày
Một cái nhìn gần gũi hơn vào những pha mạo hiểm chết người Tom Cruise đã tự mình thực hiện trong Nhiệm vụ Bất khả thi
Wade Eastwood, điều phối viên các cảnh quay mạo hiểm của M:I - Fallout đã cho quăng và ném một cái xác trực thăng với vận tốc 110 km/h cho giống thật.

Tổ chức tài chính lớn nhất nhì thế giới HSBC cảnh báo Trái Đất sắp cạn kiệt tài nguyên

tinybook tinybook 1 tuần 3 ngày
Tổ chức tài chính lớn nhất nhì thế giới HSBC cảnh báo Trái Đất sắp cạn kiệt tài nguyên
Đến một tổ chức tài chính khổng lồ cũng phải lo ngại cho vận mệnh Trái Đất.

Bên trong tổ chức hacker đã bí mật ăn trộm hàng tỷ USD trên khắp thế giới

tinybook tinybook 1 tuần 3 ngày
Bên trong tổ chức hacker đã bí mật ăn trộm hàng tỷ USD trên khắp thế giới
Thông qua các kỹ thuật lừa đảo và thâm nhập máy tính, nhóm hacker này đã ăn trộm hàng chục triệu số thẻ tín dụng từ hàng nghìn điểm bán hàng trên khắp thế giới, rút đi hàng tỷ USD của các công ty nạn nhân.

[Video vui] Thiên nhiên hoang dã đã dạy loài nhím khôn ngoan thế nào để tránh bị báo tấn công

tinybook tinybook 1 tuần 3 ngày
[Video vui] Thiên nhiên hoang dã đã dạy loài nhím khôn ngoan thế nào để tránh bị báo tấn công
Bằng sự khôn khéo và cơ chế phòng vệ ấn tượng, con nhím đã thoát khỏi sự đeo bám và tấn công của chú báo săn mồi thành công.

Nắng nóng kỉ lục gây cháy rừng, bất ngờ lộ ra một thông điệp bí mật từ thời Chiến tranh Thế giới Thứ Hai

tinybook tinybook 1 tuần 3 ngày
Nắng nóng kỉ lục gây cháy rừng, bất ngờ lộ ra một thông điệp bí mật từ thời Chiến tranh Thế giới Thứ Hai
Đây là một trong số ít lần ta có thể nói cháy rừng mang lại một thứ gì đó thú vị.

Quân đội Mỹ đặt mua UAV cảm tử chuyên để đi săn các loại UAV khác

tinybook tinybook 1 tuần 4 ngày
Quân đội Mỹ đặt mua UAV cảm tử chuyên để đi săn các loại UAV khác
Cảm tử quân Coyote sẽ được trang bị radar hoạt động ở dải tần Ku để phát hiện mục tiêu, sau đó tiếp cận và kích hoạt đầu đạn chiến đấu để phá hủy nó.

Xem lính công binh Nga - Trung thi lắp cầu phao 20 tấn: chỉ mất vài phút để trung đội xe tăng vượt sông

tinybook tinybook 1 tuần 4 ngày
Xem lính công binh Nga - Trung thi lắp cầu phao 20 tấn: chỉ mất vài phút để trung đội xe tăng vượt sông
Chỉ mất vài phút để những người lính công binh gắn các miếng ghép có tổng khối lượng 20 tấn này thành một chiếc cầu phao.

10 thiết bị kì diệu nhất từng xuất hiện trong Mission: Impossible, biến mọi nhiệm vụ thành khả thi hết

tinybook tinybook 1 tuần 4 ngày
10 thiết bị kì diệu nhất từng xuất hiện trong Mission: Impossible, biến mọi nhiệm vụ thành khả thi hết
Những thứ công nghệ chỉ có trên màn bạc.

Bangkok đang chìm dần vào lòng biển cả, và đây là dự án vô cùng sáng tạo của người Thái giúp cho thủ đô thoát khỏi nạn úng ngập

tinybook tinybook 1 tuần 4 ngày
Bangkok đang chìm dần vào lòng biển cả, và đây là dự án vô cùng sáng tạo của người Thái giúp cho thủ đô thoát khỏi nạn úng ngập
Một tuyệt tác của thiết kế kiến trúc: vừa xanh, vừa đẹp lại vừa giúp cho những con phố Bangkok không còn úng ngập mùa mưa.

Bàn làm việc trên văn phòng của bạn bẩn gấp cả trăm lần cái bồn cầu, và đây là những thứ cần dọn ngay

tinybook tinybook 1 tuần 5 ngày
Bàn làm việc trên văn phòng của bạn bẩn gấp cả trăm lần cái bồn cầu, và đây là những thứ cần dọn ngay
Bàn làm việc trên văn phòng của bạn bẩn gấp cả trăm lần cái bồn cầu, và đây là những thứ cần dọn ngay

Đến lính cứu hỏa cũng phải ngả mũ vì độ bền mái ngói năng lượng mặt trời của Tesla

tinybook tinybook 1 tuần 5 ngày
Đến lính cứu hỏa cũng phải ngả mũ vì độ bền mái ngói năng lượng mặt trời của Tesla
Loại ngói năng lượng Mặt Trời của Tesla khá bền và có độ an toàn cao. Bạn sẽ phải dùng nhiều vật dụng phá dỡ như rìu, cưa,…thì mới có thể tách được các viên ngói, thậm chí việc di chuyển trên loại ngói này cũng không hề đơn giản.

Tìm hiểu về Quidditch, môn thể thao vua trong giới Pháp thuật: hóa ra luật "trái Snitch vàng" vô lý xuất phát từ một cuộc cãi lộn giữa tác giả Rowling và bạn trai

tinybook tinybook 1 tuần 5 ngày
Tìm hiểu về Quidditch, môn thể thao vua trong giới Pháp thuật: hóa ra luật "trái Snitch vàng" vô lý xuất phát từ một cuộc cãi lộn giữa tác giả Rowling và bạn trai
Môn thể thao kết hợp từ phép thuật, mồ hôi và máu.

[Infographic] Những ngôn ngữ khó học nhất thế giới, xem để biết tiếng Việt đứng ở vị trí nào

tinybook tinybook 1 tuần 5 ngày
[Infographic] Những ngôn ngữ khó học nhất thế giới, xem để biết tiếng Việt đứng ở vị trí nào
Ta đã đi rất xa, từ tiếng ú ớ của người tối cổ cho tới "Hôm nay bạn khỏe không" của chúng ta trong thời đại này.

Ống ngắm thông minh Smart Shooter SMASH 2000 của Israel sẽ giúp các xạ thủ bắn "bách phát - bách trúng"

tinybook tinybook 1 tuần 6 ngày
Ống ngắm thông minh Smart Shooter SMASH 2000 của Israel sẽ giúp các xạ thủ bắn "bách phát - bách trúng"
Hệ thống này sẽ tự xác định các mục tiêu và kẻ địch cầm vũ khí sẽ được đánh dấu bằng một vòng tròn màu đỏ, việc của xạ thủ là hướng dấu chữ thập của ống ngắm vào mục tiêu, và súng sẽ tự động nhả đạn.

Ông bố “bựa nhất năm”, chụp hình những đứa con và đưa chúng vào thế giới viễn tưởng bằng Photoshop

tinybook tinybook 1 tuần 6 ngày
Ông bố “bựa nhất năm”, chụp hình những đứa con và đưa chúng vào thế giới viễn tưởng bằng Photoshop
Những tác phẩm kết hợp Photoshop và ảnh chụp của ông bố có tâm người Thụy Sỹ John Wilhelm chắn chắn sẽ khiến bạn không khỏi thán phục về cả tài năng lẫn độ “lầy lội” của ông bố này.
tinybook Công Nghệ Thông Tin








Chat