Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Nếu bạn chưa nghe về Roko's Basilisk thì đây, nó đây.

Elon Musk vừa mới xuất hiện cùng ca sĩ, nhạc sĩ nhạc điện tử Grimes tại Gala MET hôm đầu tuần vừa rồi. Họ đẹp đôi một cách đáng ngạc nhiên, họ đến với nhau nhờ … trí tuệ nhân tạo. Mạng Internet cũng ủng hộ cặp này cũng hết mình bằng meme và những thứ linh tinh khác.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 1.

Trước khi họ xuất hiện trước công chúng lần đầu tiên, Musk đăng tải lên Twitter một dòng trạng thái: một câu chơi chữ với tựa đề "Rococo’s Basilisk". Đó là sự kết hợp giữa phong cách nghệ thuật baroque của thế kỷ 18 (được gọi là Rococo) với một thí nghiệm giả định về trí tuệ nhân tạo có tên là "Roko’s Basilisk".

Theo như tờ tạp chí Page Six, nơi đầu tiên thông báo cho bàn dân thiên hạ biết hai con người này đang hẹn hò, thì chính câu đùa này là thứ đưa hai người tới với nhau: Musk hí hửng tưởng mình nghĩ ra câu chơi chữ này, nhưng khi biết được rằng cô nhạc sĩ Grimes đã nghĩ ra nó trước Musk tận 3 năm lận, Musk đã có đôi lời qua lại và có vẻ đã "tán đổ" Grimes.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 2.

Grimes.

Đoán làm sao được nội dung đoạn hội thoại tán tỉnh giữa một ông tỉ phú hai vai cả đống dự án thay đổi thế giới và một cô ca sĩ hai tay đầy đĩa Bạch kim, nhưng ta vẫn biết kết quả của cuộc nói chuyện ấy: họ đang hẹn hò.

Vậy Roko’s basilisk, thứ đưa họ tới với nhau, là gì?

Thí nghiệm giả định này có nguồn gốc từ một bài đăng của người dùng có tên Roko trên Less Wrong, một forum và blog về tâm lý học và về trí tuệ nhân tạo. Tóm gọn lại, thí nghiệm này nói về những điều kiện hợp lý cho một siêu trí tuệ nhân tạo của tương lai giết bất kì người nào không giúp nó tồn tại.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 3.

Bối cảnh thí nghiệm này dựa trên giả thuyết do cha đẻ của forum Less Wrong, Eliezer Yudkowsky đặt ra, có tên là Ý chí Ngoại suy Chặt chẽ - Coherent Extrapolated Volition, viết tắt là CEV. Bản chất cái giả thuyết này thì rất phức tạp và nhiều khía cạnh, nhưng khi áp dụng vào thí nghiệm giả định của Roko, nó có thể được coi là một chương trình giả định tạo ra một siêu trí tuệ nhân tạo có những hành động phục vụ con người tốt nhất có thể, để đạt được "mức tốt cho con người".

Nhưng nếu một siêu trí tuệ cứ tiếp tục đưa ra những hành động tốt nhất để con người có được điều kiện sống tốt nhất, nó sẽ không bao giờ ngừng theo đuổi cái mục đích ấy bởi lẽ bất kì thứ gì cũng vẫn có thể "tốt hơn chút nữa".

Trên đời chẳng có gì hoàn hảo, nên là chẳng có cách nào đạt được "mức tốt cho con người". Lúc ấy, siêu trí tuệ nhân tạo sẽ đưa ra những quyết định trái ngược với những gì mà chúng ta cho là tốt: nó sẽ tiêu diệt bất kì ai không giúp nó tồn tại. Đừng từ phương diện của siêu trí tuệ nhân tạo mà nói, thì những gì nó làm hoàn toàn logic: để đạt được "mức tốt cho con người", việc tốt nhất cần làm sẽ phải là đưa hệ thống trí tuệ nhân tạo này đi vào hoạt động. Ai đứng ra ngăn cản, thì cá nhân đó sẽ phải bị loại bỏ để hướng tới một mục đích cao cả hơn.

Rất xin lỗi khi đã kể cho bạn về Roko’s Basilisk: vì bây giờ, bạn đã không có lý do nào để ngăn cản một hệ thống siêu trí tuệ nhân tạo được khởi động, hoạt động và kiểm soát mọi thứ rồi.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 4.

Nói một chút về cái tên Roko’s Basilisk. Roko là tên của người dùng đã đăng tải thí nghiệm giả định này lên, còn "Basilisk" là danh tự dựa trên truyện ngắn giả tưởng được viết bởi David Langford, về một loại ảnh có tên là "basilisk", chứa những đường nét có thể giết bất kì ai nhìn thấy nó. Trong mẩu truyện ngắn này, những người tạo ra "basilisk" đã ném những tấm ảnh giết người này ra những nơi công cộng để xem cách "basilisk" hoạt động.

Khi Roko đăng tải thí nghiệm này lên Less Wrong, nhà sáng lập forum Yudkowsky đã tức giận tột cùng, thẳng tay xóa bài và cấm toàn bộ người dùng bàn luận về Roko’s Basilisk trong 5 năm.

Anh đã viết những dòng này:

Nghe cho kĩ đây, đồ ngốc.

Đừng bao giờ có suy nghĩ chi tiết về việc siêu trí tuệ xem xét xem có đe dọa mình không, bởi đó sẽ là thứ duy nhất sẽ cho chúng động cơ để mà đưa ra lời đe dọa đấy. (toàn bộ đoạn này được viết hoa)

Anh phải thực sự thông minh lắm mới nghĩ ra được một suy nghĩ thực sự nguy hiểm đến vậy đấy nhỉ. Mà tôi cũng thực sự nản lòng khi thấy người ta đủ thông minh để nghĩ ra nó, mà lại chẳng đủ khôn ngoan để làm điều hiển nhiên, đó là NGẬM CÁI MIỆNG DỐT NÁT CỦA MÌNH LẠI, bởi lẽ việc cố tỏ ra thông minh hẳn là phải quan trọng lắm nhỉ.

Bài đăng này quả thực quá DỐT NÁT.

1200px-eliezer_yudkowsky,_stanford_2006_(square_crop)

Yudkowsky sau này có giải thích về những hành động mình đã thực hiện. Anh chủ forum năm nay 38 tuổi nói rằng thí nghiệm giả định của Roko có tiềm năng vượt qua những trở ngại công nghệ mà ta vẫn có, và kể cả nếu điều này có thể diễn ra, thì hành động của Roko chẳng khác gì những kẻ ác trong truyện ngắn của Langford cả.

"Tôi sững lại trong bất ngờ bởi lẽ tôi đã quá căm phẫn, đến mức sang chấn tâm lý khi nhìn thấy một khái niệm ai đó đưa ra, chính họ nghĩ rằng mình vừa tạo ra một ý tưởng tuyệt vời cho phép AI của tương lai có thể tấn công con người, rồi đăng tải ý tưởng tuyệt vời ấy lên mạng", Yudkowsky giải thích lý do tại sao anh đã hành động như vậy.

Sau khi tìm hiểu xong, chắc hẳn bạn chẳng ngạc nhiên khi biết Musk hứng thú với Roko’s Basilisk như vậy: chẳng ít lần Musk cảnh báo với nhân loại rằng AI sẽ là mối nguy của nhân loại.

Nói là lo xa cũng không ngoa, bởi trí tuệ nhân tạo vẫn đang trong giai đoạn phát triển. AI vẫn chưa phân biệt được những hình ảnh đơn giản. Nhưng lo xa luôn là một điều tốt: tương lai của vũ khí tự động quả thực quá nguy hiểm, ảnh hưởng trực tiếp tới sự tính mạng con người. Và cái mức độ nguy hiểm của Roko’s Basilisk còn vượt trên cả mối đe dọa từ súng đạn: nó đe dọa tới sự sống còn của nhân loại.

Nhưng tương lai của Roko’s Basilisk có đen tối mấy, bạn cũng hãy nhìn về mặt tốt của nó: chính nó đã đưa Elon Musk và Grimes lại với nhau.

Tham khảo Motherboard

Hạt giống đầu tiên nảy mầm trên Mặt trăng của Trung Quốc đã chết

tinybook tinybook 2 ngày 7 giờ
Hạt giống đầu tiên nảy mầm trên Mặt trăng của Trung Quốc đã chết
Thật đáng tiếc nhưng thử nghiệm này cũng đã kết thúc, do điều kiện khắc nghiệt trên Mặt trăng.

Bangkok sử dụng mưa nhân tạo để giải quyết ô nhiễm không khí

tinybook tinybook 2 ngày 8 giờ
Bangkok sử dụng mưa nhân tạo để giải quyết ô nhiễm không khí
Nếu bạn có ý định du lịch Thái Lan, hãy cân nhắc kỹ trước khi đặt chân tới Bangkok.

Hãy làm ra những quả cà chua cay như ớt, các nhà khoa học nói

tinybook tinybook 3 ngày 42 phút
Hãy làm ra những quả cà chua cay như ớt, các nhà khoa học nói
Nhưng để làm gì?

Săn Deal Công Nghệ - Rinh Vàng Tài Lộc tại Lazada

tinybook tinybook 3 ngày 3 giờ
Săn Deal Công Nghệ - Rinh Vàng Tài Lộc tại Lazada
Tết Kỷ Hợi 2019 sắp đến gần cũng là tín hiệu của mùa mua sắm nhộn nhịp, đặc biệt là với các tín đồ công nghệ khi các hãng lớn và uy tín tung ra hàng loạt khuyến mãi hấp dẫn để thu hút khách hàng.

Lần đầu tiên trong lịch sử, hạt giống Trung Quốc trồng trên Mặt trăng đã nảy mầm

tinybook tinybook 3 ngày 6 giờ
Lần đầu tiên trong lịch sử, hạt giống Trung Quốc trồng trên Mặt trăng đã nảy mầm
Nếu có thể trồng lương thực trên Mặt trăng, sẽ cho phép con người xây dựng căn cứ không gian trong tương lai.

Gậy ông đập lưng ông, hệ thống reCAPTCHA của Google bị chính công cụ của Google đánh bại

tinybook tinybook 4 ngày 52 phút
Gậy ông đập lưng ông, hệ thống reCAPTCHA của Google bị chính công cụ của Google đánh bại
Dù Google đã sửa đổi và nâng cấp các công cụ của mình, phương pháp mới của các nhà nghiên cứu vẫn đạt tỷ lệ thành công hơn 90%.

Khai trương trung tâm thương mại Gigamall – tổ hợp giải trí công nghệ hiện đại hàng đầu Việt Nam

tinybook tinybook 4 ngày 9 giờ
Khai trương trung tâm thương mại Gigamall – tổ hợp giải trí công nghệ hiện đại hàng đầu Việt Nam
Trung tâm Thương mại Gigamall, tọa lạc trên đường Phạm Văn Đồng, quận Thủ Đức, TP.HCM chính thức đi vào hoạt động từ ngày 12/1.

Được quỹ của Bill Gates tài trợ, bệ xí dùng giun để xử lý phân sẽ là tương lai vệ sinh toàn cầu

tinybook tinybook 4 ngày 9 giờ
Được quỹ của Bill Gates tài trợ, bệ xí dùng giun để xử lý phân sẽ là tương lai vệ sinh toàn cầu
Loài giun này không thể sống nếu không có phân, chúng là một công cụ hoàn hảo để lắp vào hố xí tự hoại.

Xoắn não đầu năm với 4 câu đố do nhân viên Cơ quan An ninh Quốc gia Mỹ soạn ra

tinybook tinybook 5 ngày 1 giờ
Xoắn não đầu năm với 4 câu đố do nhân viên Cơ quan An ninh Quốc gia Mỹ soạn ra
Chúc bạn thể dục não vui vẻ.

Quái thú ăn thịt người vùng Gévaudan: nỗi kinh hãi của người dân Pháp hồi thế kỷ 18

tinybook tinybook 5 ngày 1 giờ
Quái thú ăn thịt người vùng Gévaudan: nỗi kinh hãi của người dân Pháp hồi thế kỷ 18
Con quái thú hoành hành suốt 3 năm trời, hạ sát tới cả trăm người.

Đừng quên Google có dự án Soli cực kỳ tiềm năng nhé: vừa đạt thành tựu mới, sờ từ xa biết sách có bao nhiêu trang

tinybook tinybook 5 ngày 2 giờ
Đừng quên Google có dự án Soli cực kỳ tiềm năng nhé: vừa đạt thành tựu mới, sờ từ xa biết sách có bao nhiêu trang
Nhìn vào những ví dụ, ta mong chờ từng ngày đến lúc Dự án Soli thành công.

Có thể bạn không tin nhưng đây là những tác phẩm cắt giấy tỉ mỉ tới từng milimet của nghệ nhân người Nhật

tinybook tinybook 5 ngày 2 giờ
Có thể bạn không tin nhưng đây là những tác phẩm cắt giấy tỉ mỉ tới từng milimet của nghệ nhân người Nhật
Chỉ với một tờ giấy bình thường nhưng nữ nghệ nhân người Nhật này có thể xử lý tỉ mỉ đến từng milimet và thổi hồn nó trở thành những tác phẩm nghệ thuật cắt giấy xuất sắc.

Video ghi lại cảnh thỏ ăn thịt đồng loại làm bất ngờ giới khoa học

tinybook tinybook 5 ngày 8 giờ
Video ghi lại cảnh thỏ ăn thịt đồng loại làm bất ngờ giới khoa học
Đừng vội sợ hại chú thỏ cưng sống trong lồng: thỏ ăn thịt chỉ khi vào đường cùng, thức ăn cạn kiệt, chúng mới tìm tới xác thối để kiếm bữa.

Lý giải hiện tượng con người đi trên than hồng nhưng không bị bỏng

tinybook tinybook 5 ngày 9 giờ
Lý giải hiện tượng con người đi trên than hồng nhưng không bị bỏng
Chắc hẳn bạn đã từng xem những nghi lễ như đi trên lửa trên TV hoặc ngoài đời nhưng có bao giờ bạn thắc mắc, tại sao người đi trên than hồng lại không hề bị bỏng hay làm sao. Vậy nguyên lý khoa học nào giúp họ làm được điều đó?

Lấy ý tưởng từ chân máy ảnh, nhiếp ảnh gia Nhật Bản chế tạo móc treo bao súng giúp bắn nhanh như Lucky Luke

tinybook tinybook 6 ngày 6 giờ
Lấy ý tưởng từ chân máy ảnh, nhiếp ảnh gia Nhật Bản chế tạo móc treo bao súng giúp bắn nhanh như Lucky Luke
Nhờ thiết bị này, xạ thủ sẽ có thể lấy súng ra khỏi bao nhanh hết mức có thể và đôi khi chỉ một phần nghìn giây cũng đã tạo ra sự khác biệt giữa các đối thủ.

Lý do đặc biệt khiến Mỹ không dùng hệ đo lường bằng mét như các nước khác

tinybook tinybook 1 tuần 2 giờ
Lý do đặc biệt khiến Mỹ không dùng hệ đo lường bằng mét như các nước khác
Cùng vài quốc gia ít ỏi trên thế giới, hiện giờ Hoa Kỹ vẫn sử dụng các đơn vì đo lường như feet, inch, pound thay vì km, m, kg, tại sao vậy?

Không cần đến Sing hay Nhật, giờ đây Việt Nam đã có khu giải trí công nghệ tương tác cực chất

tinybook tinybook 1 tuần 5 giờ
Không cần đến Sing hay Nhật, giờ đây Việt Nam đã có khu giải trí công nghệ tương tác cực chất
Mọi thứ đều trở thành hiện thực với người dân Sài Gòn khi tổ hợp giải trí công nghệ tương tác JP World đã chính thức ra mắt tại TTTM Gigamall.

Dưa chuột thì rẻ còn dưa chuột biển thì đắt như điên, có lý do cả đấy

tinybook tinybook 1 tuần 11 giờ
Dưa chuột thì rẻ còn dưa chuột biển thì đắt như điên, có lý do cả đấy
Dưa chuột thường giỏi lắm 70.000 đồng/kg, còn dưa chuột biển (hải sâm) lên tới 70 triệu đồng/kg.

[CES 2019] Với hệ thống IBM Q System One mạnh 20 qubit, IBM là hãng đầu tiên thương mại hóa máy tính lượng tử

tinybook tinybook 1 tuần 1 ngày
[CES 2019] Với hệ thống IBM Q System One mạnh 20 qubit, IBM là hãng đầu tiên thương mại hóa máy tính lượng tử
Tương lai của con người sẽ được gắn liền với từ "lượng tử", với một trong những người tiên phong là IBM.

Internet xôn xao về người phụ nữ Hà Giang bị đỉa kí sinh trong họng suốt 3 tháng

tinybook tinybook 2 ngày 8 giờ
Internet xôn xao về người phụ nữ Hà Giang bị đỉa kí sinh trong họng suốt 3 tháng
Các bác sĩ đã loại bỏ con đỉa kí sinh 3 tháng trong họng của người phụ nữ 63 tuổi ở tỉnh Hà Giang.

Đừng xem trang Instagram mê hoặc thị giác này kẻo lại thích thú quá quên hết thời gian!

tinybook tinybook 2 ngày 9 giờ
Đừng xem trang Instagram mê hoặc thị giác này kẻo lại thích thú quá quên hết thời gian!
Không thiếu những video gây lú trên Internet, nhưng để tập trung được nhiều thứ thú vị như trang Instagram này thì hơi hiếm.

Nhân viên Apple Store nhận được gói hàng tưởng là iPhone, nhưng hóa ra lại là nửa cân ma túy đá

tinybook tinybook 2 ngày 11 giờ
Nhân viên Apple Store nhận được gói hàng tưởng là iPhone, nhưng hóa ra lại là nửa cân ma túy đá
Một tai nạn hy hữu đã xảy ra.

Netflix tăng giá tất cả các gói thuê bao

tinybook tinybook 2 ngày 23 giờ
Netflix tăng giá tất cả các gói thuê bao
Các gói cước mới có giá 9 USD, 13 USD và 16 USD.

TikTok đe dọa WeChat bằng ứng dụng nhắn tin mới

tinybook tinybook 3 ngày 6 giờ
TikTok đe dọa WeChat bằng ứng dụng nhắn tin mới
TikTok có hơn 500 triệu người dùng hàng tháng, trong khi WeChat đang có 1,1 tỷ người dùng.

Ứng dụng YouTube di động có thêm tính năng vuốt để chuyển video

tinybook tinybook 3 ngày 7 giờ
Ứng dụng YouTube di động có thêm tính năng vuốt để chuyển video
Tính năng mới hứa hẹn sẽ làm thay đổi hoàn toàn cách bạn xem video trên ứng dụng YouTube.

Từ chuyện "Hộp Cao sao vàng 2.000 đồng bán trên Amazon 7 USD, chiếc nón lá rao bán giá gấp 10 lần", DN Việt sẽ hưởng lợi lớn khi Amazon chính thức vào Việt Nam?

tinybook tinybook 3 ngày 9 giờ
Từ chuyện "Hộp Cao sao vàng 2.000 đồng bán trên Amazon 7 USD, chiếc nón lá rao bán giá gấp 10 lần", DN Việt sẽ hưởng lợi lớn khi Amazon chính thức vào Việt Nam?
Từ chuyện "Hộp Cao sao vàng 2.000 đồng bán trên Amazon 7 USD, chiếc nón lá rao bán giá gấp 10 lần", DN Việt sẽ hưởng lợi lớn khi Amazon chính thức vào Việt Nam?

Phát hiện phần mềm mã độc “có tâm”, chỉ tấn công người giàu

tinybook tinybook 3 ngày 12 giờ
Phát hiện phần mềm mã độc “có tâm”, chỉ tấn công người giàu
Phần mềm mã độc này không sử dụng phương pháp thông thường, thay vào đó là chọn lọc và tối đa hóa thiệt hại.

Ghen tức trước cơn sốt 5G, ngành công nghiệp cáp nhanh tay đăng ký thương hiệu...10G cho to

tinybook tinybook 4 ngày 4 phút
Ghen tức trước cơn sốt 5G, ngành công nghiệp cáp nhanh tay đăng ký thương hiệu...10G cho to
Tuy nhiên, 10G ở đây lại không phải là "thế hệ 10" đâu.

Trung Quốc có thể copy tất cả mọi thứ, nhưng sao họ vẫn chưa copy và đánh bại được Tesla?

tinybook tinybook 4 ngày 1 giờ
Trung Quốc có thể copy tất cả mọi thứ, nhưng sao họ vẫn chưa copy và đánh bại được Tesla?
Họ có công nghệ, có nhân lực, thậm chí có cả bằng sáng chế của Tesla luôn. Điều gì đã ngăn họ lại?

Trợ lý ảo Alexa của Amazon "ngắt lời" con người trên sân khấu CES 2019, phải chăng AI đã có suy nghĩ riêng?

tinybook tinybook 4 ngày 9 giờ
Trợ lý ảo Alexa của Amazon "ngắt lời" con người trên sân khấu CES 2019, phải chăng AI đã có suy nghĩ riêng?
Nghe có vẻ hơi sợ nhưng quả thực sợ thật bởi đây là khoảnh khắc hiếm thấy và không phải trợ lý ảo nào giống như Alexa cũng có thể tham gia trò chuyện, thậm chí ngắt lời của con người.
tinybook Công Nghệ Thông Tin








Chat