Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh

Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh
Theo: Neo Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Trong những tuần gần đây, một câu chuyện liên quan tới nghiên cứu thực nghiệm machine learning của Facebook đã được phát tán mạnh mẽ với các tiêu đề gây hoang mang.

"Các kỹ sư Facebook hốt hoảng, rút dây nguồn hệ thống AI sau khi hai robot phát triển ra môt loại ngôn ngữ riêng", một trang web viết. "Facebook đã tắt hết thống AI sau khi nó tự phát minh ra một loại ngôn ngữ đáng sợ", một trang web khác cho hay. "Liệu chúng ta có đang tạo ra quái vật hủy diệt Frankenstein không?", một trang khác đặt câu hỏi. Thậm chí, một tờ báo nhỏ của Anh trích dẫn một giáo sư về robot cho rằng vụ việc này cho thấy chúng ta nên kìm hãm sự phát triển của AI và sẽ là thảm họa chết người nếu công nghệ tương tự được đưa vào những con robot quân sự.

Liên quan tới cuộc cách mạng robot sắp tới, robot sát thủ, AI nguy hại hay sự diệt vong của loài người, các trang web có mức độ nghiêm túc khác nhau. Họ liên tục trích dẫn đoạn đối thoại dưới đây giữa hai chatbot của Facebook và cho rằng chúng đã học được cách nói chuyện với nhau rất đáng sợ:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Thực tế lại là một điều gì đó kỳ quặc hơn nhiều. Một vài tuần trước, FastCo Design đã có một bài viết về nỗ lực phát triển một "mạng lưới cộng tác generative" phục vụ mục đích phát triển phần mềm đàm phán của Facebook.

Hai chatbot xuất hiện trên đoạn hội thoại ở trên đã được thiết kế để cho thấy các tác nhân đối thoại với mục tiêu khác nhau hoàn toàn có thể tham gia vào một cuộc đàm phán từ khi bắt đầu tới khi kết thúc với những chatbot khác hoặc người dùng trong khi đi đến quyết định hoặc kết quả chung. Điều này cũng đã được Facebook xác nhận trong bài viết trên blog của Trung tâm Nghiên cứu Trí tuệ Nhân tạo (FAIR) vào tháng 6.

Mô hình hoạt động của chatbot thương thuyết
Mô hình hoạt động của chatbot thương thuyết

Các chatbot không bao giờ làm bất cứ điều bất chính nào ngoài việc thảo luận với nhau cách để chia mảng các mục nhất định (đại diện trong giao diện người dùng như những vật vô hại kiểu như cuốn sách, chiếc mũ và quả bóng) thành một sự chia tách lẫn nhau.

Mục đích là phát triển một chatbot có thể học hỏi từ sự giao tiếp của con người để thương lượng các thỏa thuận với người dùng cuối trôi chảy tới nỗi người dùng không nhận ra họ đang nói chuyện với một con robot, đó chính là thứ mà FAIR coi là thành công.

Nhưng rồi các lập trình viên của Facebook nhận ra rằng họ đã có một số sai lầm. Họ đã không khuyến khích chatbot giao tiếp với nhau theo các quy tắc tiếng Anh cơ bản của con người. Do vậy, trong nỗ ực học hỏi lẫn nhau, những chatbot này đã bắt đầu trao đổi qua lại bằng những từ viết tắt.

"Chatbot đã bỏ ngôn ngữ cơ bản sang một bên và tự tạo các từ viết tắt cho riêng mình", nhà nghiên cứu Dhruv Batra của FAIR chia sẻ. "Giống như khi tôi nói "the" 5 lần, bạn sẽ nghĩ rằng tôi muốn 5 bản sao của đồ vật này. Điều này chẳng khác gì cách các cộng đồng con người tạo ra những từ viết tắt".

Facebook thực sự đã cho ngừng hoạt động hệ thống AI nhưng không phải vì họ quá hoảng hốt khi vô tình tạo ra thứ có thể trở thành Skynet. Nhà nghiên cứu Mike Lewis của FAIR đã chia sẻ với FastCo rằng: Chúng tôi quan tâm tới việc tạo ra những chatboat có thể giao tiếp với con người chứ không chỉ có thể nói chuyện một cách hiệu quả với nhau, chính vì thế chúng tôi đã cho ngừng hoạt động và yêu cầu chúng giao tiếp một cách rõ ràng.

Đúng là có nhiều mục đích tốt đằng sau việc ngăn chặn robot tự phát triển ngôn ngữ riêng mà con người không thể hiểu được nhưng xin nhắc lại một lần nữa, đây là một hiện tượng tương đối bình thường khi dùng hai thiết bị machine learning và để chúng học hỏi lẫn nhau. Rất đáng để lưu ý rằng khi những cụm từ viết tắt của chatbot được giải thích, đoạn hội thoại giữa chúng sẽ được hiểu và sẽ không hề đáng sợ như trước đây.

Như FastCo đã viết, dạng machine learning này có thể giúp các thiết bị hoặc hệ thống thông minh liên lạc với nhau một cách hiệu quả hơn. Lợi ích thu được có thể đi kèm một số vấn đề nhưng nó hoàn toàn khác với việc giải phóng trí thông minh nhân tạo khỏi sự kiểm soát của con người.

Trong trường hợp này, điều duy nhất mà các chatbot có thể làm đó là trao đổi những quả bóng với nhau.

Công nghệ machine learning có rất nhiều ứng dụng hữu ích như cải tiến chẩn đoán trong y tế. Tuy nhiên nó cũng có thể bị lợi dụng cho các mục đích xấu. Về cơ bản, nó là cách để biên soạn và phân tích số lượng lớn dữ liệu và cho đến nay những rủi ro chủ yếu lên quan đến cách con người chọn để phân phối và sử dụng sức mạnh đó.

Hy vọng rằng con người đủ thông minh để không kết nối các chương trình thực nghiệm machine learning vào một thứ gì đó nguy hiểm như một đội quân robot laser hoặc một lò phản ứng hạt nhân. Nhưng thảm họa sẽ ngay lập tức xảy ra nếu có bất cứ ai làm những điều dại dột trên và nó sẽ là kết quả của sự cẩu thả và ngốc nghếch của con người chứ không phải vì các robot được cài sẵn sự thù ghét con người.

Ít nhất là chưa. Machine learning chưa tiến gần được tới giới hạn AI thực sự mà chỉ là bước dò dẫm đầu tiên của loài người với công nghệ này. Nếu có ai đó phải lo lắng về tin tức này trong năm 2017 thì đó là những nhà thương thuyết chuyên nghiệp bởi họ sắp bị chatbot cướp mất việc làm.

Theo Gizmodo

Kỳ lạ với chuyến bay dài... hơn 1 phút

tinybook tinybook 1 ngày 3 giờ
Kỳ lạ với chuyến bay dài... hơn 1 phút
Loganair, hãng hàng không khu vực của Scotland, mới khai trương lịch trình bay ngắn nhất thế giới, kéo dài hơn 1 phút rưỡi từ đảo Westray tới đảo Papa Westray, thuộc quần đảo Orkney phía bắc nước Anh.

Lần đầu tiên chứng minh được máy tính lượng tử thực sự mạnh hơn máy tính cổ điển

tinybook tinybook 1 ngày 5 giờ
Lần đầu tiên chứng minh được máy tính lượng tử thực sự mạnh hơn máy tính cổ điển
Ưu thế Lượng tử - Quantum Sumpremacy là dấu mốc mà tại đó máy tính lượng tử có khả năng thực hiện được một số tác vụ hiệu quả hơn máy tính thông thường.

Những loài vật tàn ác nhất: hạ sát anh chị em ngay khi mới chào đời

tinybook tinybook 2 ngày 4 giờ
Những loài vật tàn ác nhất: hạ sát anh chị em ngay khi mới chào đời
Và đôi khi, chính các "bậc phụ mẫu" lại là kẻ tiếp tay cho cuộc chiến tàn nhẫn, khốc liệt này.

Nội thất xe hơi đã thay đổi như thế nào trong 100 năm qua

tinybook tinybook 2 ngày 5 giờ
Nội thất xe hơi đã thay đổi như thế nào trong 100 năm qua
Cũng giống như ngoại thất, nội thất của xe hơi cũng đã trải qua rất nhiều cuộc cách mạng để đạt tới chất lượng như ngày hôm nay.

Lần đầu tiên, ta có bằng chứng khẳng định lõi trong của Trái Đất tồn tại ở thể rắn

tinybook tinybook 2 ngày 6 giờ
Lần đầu tiên, ta có bằng chứng khẳng định lõi trong của Trái Đất tồn tại ở thể rắn
Lõi Trái Đất mang những thông điệp rất riêng, việc của chúng ta là hiểu được chúng.

Mọi điều bạn biết Vitamin D từ trước đến giờ đều sai

tinybook tinybook 2 ngày 8 giờ
Mọi điều bạn biết Vitamin D từ trước đến giờ đều sai
Vitamin D không có khả năng điều trị bệnh xơ cứng, viêm khớp dạng thấp, hay giảm tỷ lệ mắc ung thư.

Đây có lẽ cô gái không may mắn nhất vì bị dị ứng với hầu hết mọi thứ, từ mùi thức ăn, xà phòng tới bột giặt

tinybook tinybook 2 ngày 20 giờ
Đây có lẽ cô gái không may mắn nhất vì bị dị ứng với hầu hết mọi thứ, từ mùi thức ăn, xà phòng tới bột giặt
Cô sinh viên 21 tuổi sống tại South Carolina, Mỹ mắc phải một chứng bệnh khá oái oăm khiến cô bị dị ứng tồi tệ khi ngửi bất kỳ mùi thức ăn, xà phòng hay bột giặt nào.

Bill Gates: "Paul Allen đã thay đổi cuộc đời tôi như thế đó"

tinybook tinybook 2 ngày 21 giờ
Bill Gates: "Paul Allen đã thay đổi cuộc đời tôi như thế đó"
Bài viết cảm động là lời chia tay của Bill Gates dành cho đồng sáng lập Microsoft, vĩ nhân Paul Allen.

Với tính năng selfie, hãng smartphone chưa ai từng nghe tên này đánh bại cả Apple, Samsung, Huawei... ở châu Phi như thế nào?

tinybook tinybook 2 ngày 21 giờ
Với tính năng selfie, hãng smartphone chưa ai từng nghe tên này đánh bại cả Apple, Samsung, Huawei... ở châu Phi như thế nào?
Tập trung vào ba yếu tố, giá cả, thời lượng pin và quan trọng nhất là selfie hoàn hảo, các thương hiệu smartphone của Transsion đang đánh bại các nhà sản xuất hàng đầu thế giới trên mảnh đất châu Phi.

Nhờ quan hệ tình dục với người Neanderthal, người hiện đại mới có thể tồn tại tới bây giờ

tinybook tinybook 3 ngày 1 giờ
Nhờ quan hệ tình dục với người Neanderthal, người hiện đại mới có thể tồn tại tới bây giờ
Người Neanderthal và người Homo sapiens (người hiện đại) đã giao phối ít nhất 2 lần trong 100,000 năm và trao đổi cả nguồn virus, cả kháng thể chống virus với nhau.

Ứng dụng video Trung Quốc làm mờ hình ảnh để ngăn bạn cắm đầu vào điện thoại

tinybook tinybook 1 ngày 1 giờ
Ứng dụng video Trung Quốc làm mờ hình ảnh để ngăn bạn cắm đầu vào điện thoại
Liệu tính năng này có thực sự hiệu quả? Vẫn cần thời gian để chứng minh.

Số người cao tuổi chơi Internet ở Trung Quốc nhiều hơn cả dân số Đức

tinybook tinybook 1 ngày 7 giờ
Số người cao tuổi chơi Internet ở Trung Quốc nhiều hơn cả dân số Đức
Tính đến ngày 21/10/1028, dân số Đức là 82.33 triệu người. Còn số người cao tuổi biết chơi Internet ở Trung Quốc là... trên 84 triệu.

Một doanh nghiệp Việt vừa chi 14 tỷ VNĐ mua khối thiên thạch 'mảnh ghép mặt trăng' nặng 5,5kg trong phiên đấu giá ở Mỹ?

tinybook tinybook 1 ngày 7 giờ
Một doanh nghiệp Việt vừa chi 14 tỷ VNĐ mua khối thiên thạch mảnh ghép mặt trăng nặng 5,5kg trong phiên đấu giá ở Mỹ?
Khối thiên thạch nặng 5,5kg được bán với giá chính xác là 612.500 USD (khoảng gần 14 tỷ VNĐ), tức là cao hơn 100.000 USD so với mức giá dự tính ban đầu.

Công ty tuyên bố chỉ tuyển nam giới, cô gái này kiên quyết xin vào làm, và giờ thì cô là Phó Chủ tịch Ericsson Việt Nam!

tinybook tinybook 2 ngày 7 giờ
Công ty tuyên bố chỉ tuyển nam giới, cô gái này kiên quyết xin vào làm, và giờ thì cô là Phó Chủ tịch Ericsson Việt Nam!
"Khi ứng tuyển vào công ty kỹ thuật, tôi từng trải qua trường hợp công ty chỉ tuyển nam giới. Tôi thắc mắc là bản thân mình có thể làm được. Tôi xin gặp nhân sự và nói rằng muốn ứng tuyển vào vị trí đó. Tôi nghĩ rằng đã rất dũng cảm và thay đổi thật nhiều trong thời gian đó”, Phó Chủ tịch Ericsson Việt Nam tâm sự.

Trung Quốc: Đừng bất chấp chạy theo trào lưu ngã sấp mặt Falling Stars Challenge để rồi dính án phạt như cô gái này

tinybook tinybook 2 ngày 19 giờ
Trung Quốc: Đừng bất chấp chạy theo trào lưu ngã sấp mặt Falling Stars Challenge để rồi dính án phạt như cô gái này
Trào lưu ngã sấp mặt Falling Stars Challenge đang lan tới nhiều quốc gia với tốc độ chóng mặt. Mặc dù ai cũng có quyền thử thách bản thân với trào lưu mới nhưng nếu để tới mức bị phạt như cô gái này thì cũng chẳng đáng chút nào.

Dán "meme" vào bài kiểm tra để khen/chê học sinh, cô giáo sáng tạo bỗng gây bão internet

tinybook tinybook 1 ngày 3 giờ
Dán "meme" vào bài kiểm tra để khen/chê học sinh, cô giáo sáng tạo bỗng gây bão internet
Một cách đánh giá bài kiểm tra vừa sáng tạo, vừa thú vị, tại sao không?

Công nghệ 3D giờ hiện đại đến nỗi, các kỹ sư đã có thể "in" ra một cây cầu làm hoàn toàn từ thép

tinybook tinybook 1 ngày 3 giờ
Công nghệ 3D giờ hiện đại đến nỗi, các kỹ sư đã có thể "in" ra một cây cầu làm hoàn toàn từ thép
Có thể coi đây là cây cầu đầu tiên trên thế giới được tạo ra bằng công nghệ in 3D, được làm hoàn toàn bằng thép và trang bị cảm biến thông minh.

Cấm tiệt PowerPoint trong họp hành và thay bằng bản tường thuật, cách quản lý của kỳ quặc của Jeff Bezos hiệu quả ra sao?

tinybook tinybook 1 ngày 4 giờ
Cấm tiệt PowerPoint trong họp hành và thay bằng bản tường thuật, cách quản lý của kỳ quặc của Jeff Bezos hiệu quả ra sao?
Những bản tường thuật 6 mặt giấy đã thay thế PowerPoint tại các cuộc họp của Amazon. Phương pháp của ông chủ "thét ra lửa" Jeff Bezos hiệu quả ra sao?

Cậu bé mới 11 tuần tuổi đã dọa được bố mẹ vì mọc răng nanh đúng dịp Halloween

tinybook tinybook 1 ngày 5 giờ
Cậu bé mới 11 tuần tuổi đã dọa được bố mẹ vì mọc răng nanh đúng dịp Halloween
Câu chuyện nhận được hơn 4.500 lượt chia sẻ chỉ sau 1 tiếng đồng hồ.

Thì ra đây là ý nghĩa sâu sắc của trò chơi Quidditch trong Harry Potter mà bấy lâu nay các Fan vẫn thường hâm mộ.

tinybook tinybook 1 ngày 8 giờ
Thì ra đây là ý nghĩa sâu sắc của trò chơi Quidditch trong Harry Potter mà bấy lâu nay các Fan vẫn thường hâm mộ.
Được biết đến như một trong những “đặc sản” của riêng Harry Potter, nhưng Quidditch còn có nhiều điều thú vị hơn cả một trò chơi để giải trí.

Đáng thương nhất chính là Thanos: Hết bị đổ tội làm sập Youtube, lại chịu cảnh photoshop quả đầu bí ngô

tinybook tinybook 1 ngày 8 giờ
Đáng thương nhất chính là Thanos: Hết bị đổ tội làm sập Youtube, lại chịu cảnh photoshop quả đầu bí ngô
Có hẳn một cuộc thi trên mạng xem ai photoshop được bức ảnh "bí ngô điên" có khuôn mặt Thanos ấn tượng nhất.

Tài tử thủ vai Han Solo 44 năm trước bước vào phim "Solo: A Star Wars Story" nhờ deep learning

tinybook tinybook 1 ngày 20 giờ
Tài tử thủ vai Han Solo 44 năm trước bước vào phim "Solo: A Star Wars Story" nhờ deep learning
Deep learning quả là một chương trình đầy tiềm năng!

Thiết bị dính trên trán này sẽ giúp bạn theo dõi chất lượng giấc ngủ mỗi đêm

tinybook tinybook 1 ngày 20 giờ
Thiết bị dính trên trán này sẽ giúp bạn theo dõi chất lượng giấc ngủ mỗi đêm
Nó có thể phát hiện một rối loạn giấc ngủ âm thầm nhưng không kém phần nguy hiểm.

Cơ thể mỗi chúng ta đang chứa 380 nghìn tỷ con virus, chúng đang làm gì trong đó?

tinybook tinybook 1 ngày 20 giờ
Cơ thể mỗi chúng ta đang chứa 380 nghìn tỷ con virus, chúng đang làm gì trong đó?
Virus có trong máu, trên da, trong phổi, nước tiểu…

Dự đoán cuối cùng của Stephen Hawking về kết cục nhân loại

tinybook tinybook 1 ngày 21 giờ
Dự đoán cuối cùng của Stephen Hawking về kết cục nhân loại
Con người sẽ chết, hoặc trở thành một sinh vật bậc thấp, nhường ngôi cho giống loài "siêu nhân"?

Chùm ảnh cho thấy dù hiện đại hơn nhưng đi máy bay thời nay chưa chắc thoải mái bằng thời xưa

tinybook tinybook 1 ngày 21 giờ
Chùm ảnh cho thấy dù hiện đại hơn nhưng đi máy bay thời nay chưa chắc thoải mái bằng thời xưa
Chẳng cần chen chúc nhau trên khoang hành khách, cũng không cần phải vội vã chạy đi check-in, đây chính là cách "các cụ" khi xưa đi máy bay.

Cùng chiêm ngưỡng chiếc kem độc đáo chiến thắng cuộc thi thiết kế đồ ăn tại Anh.

tinybook tinybook 2 ngày 3 giờ
Cùng chiêm ngưỡng chiếc kem độc đáo chiến thắng cuộc thi thiết kế đồ ăn tại Anh.
Một cây kem màu hồng, vị trà Chai được sáng tạo bởi Sally Reynolds đã chiến thắng cuộc thi về kem của Bompas & Parr, diễn ra trong Liên hoan thiết kế London năm nay.

Từ điển Oxford bổ sung hơn 100 từ cực cool về điện ảnh và hàng loạt đạo diễn sừng sỏ

tinybook tinybook 2 ngày 4 giờ
Từ điển Oxford bổ sung hơn 100 từ cực cool về điện ảnh và hàng loạt đạo diễn sừng sỏ
Vậy là phong cách làm phim của những đạo diễn gạo cội như Quentin Tarantino hay David Lynch đã có tên trong từ điển Oxford, cùng với rất nhiều khái niệm điện ảnh cuối cùng cũng chính thức được định nghĩa.

Chỉ cần một cảnh báo khi phỏng vấn, vị CEO này đã có thể tuyển được nhân viên giỏi thích nghi: Thách thức lạ lùng nhưng hữu hiệu!

tinybook tinybook 2 ngày 4 giờ
Chỉ cần một cảnh báo khi phỏng vấn, vị CEO này đã có thể tuyển được nhân viên giỏi thích nghi: Thách thức lạ lùng nhưng hữu hiệu!
Tinh thần cố gắng, đáp ứng đúng yêu cầu công việc và đặc biệt, có khả năng thích nhi nhanh là những yếu tố cần có của một nhân viên. Câu hỏi đặt ra là, làm thế nào để bạn phát hiện ra những điểm cộng này ở ứng viên khi tuyển dụng?

Những bức ảnh động vật hoang dã đẹp nhất năm 2018: "Vô cùng tàn nhẫn, vô cùng yêu thương"

tinybook tinybook 2 ngày 4 giờ
Những bức ảnh động vật hoang dã đẹp nhất năm 2018: "Vô cùng tàn nhẫn, vô cùng yêu thương"
Qua những tấm ảnh dưới đây, bạn sẽ bắt gặp cô báo hoa nằm ngái ngủ bình yên giữa buổi sáng. Và cũng có bà mẹ gorilla lặng lẽ khóc thương con. Có quá nhiều cung bậc cảm xúc trong những tấm ảnh động vật đẹp nhất của năm!
tinybook Công Nghệ Thông Tin








Chat