Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh

Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh
Theo: Neo Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Trong những tuần gần đây, một câu chuyện liên quan tới nghiên cứu thực nghiệm machine learning của Facebook đã được phát tán mạnh mẽ với các tiêu đề gây hoang mang.

"Các kỹ sư Facebook hốt hoảng, rút dây nguồn hệ thống AI sau khi hai robot phát triển ra môt loại ngôn ngữ riêng", một trang web viết. "Facebook đã tắt hết thống AI sau khi nó tự phát minh ra một loại ngôn ngữ đáng sợ", một trang web khác cho hay. "Liệu chúng ta có đang tạo ra quái vật hủy diệt Frankenstein không?", một trang khác đặt câu hỏi. Thậm chí, một tờ báo nhỏ của Anh trích dẫn một giáo sư về robot cho rằng vụ việc này cho thấy chúng ta nên kìm hãm sự phát triển của AI và sẽ là thảm họa chết người nếu công nghệ tương tự được đưa vào những con robot quân sự.

Liên quan tới cuộc cách mạng robot sắp tới, robot sát thủ, AI nguy hại hay sự diệt vong của loài người, các trang web có mức độ nghiêm túc khác nhau. Họ liên tục trích dẫn đoạn đối thoại dưới đây giữa hai chatbot của Facebook và cho rằng chúng đã học được cách nói chuyện với nhau rất đáng sợ:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Thực tế lại là một điều gì đó kỳ quặc hơn nhiều. Một vài tuần trước, FastCo Design đã có một bài viết về nỗ lực phát triển một "mạng lưới cộng tác generative" phục vụ mục đích phát triển phần mềm đàm phán của Facebook.

Hai chatbot xuất hiện trên đoạn hội thoại ở trên đã được thiết kế để cho thấy các tác nhân đối thoại với mục tiêu khác nhau hoàn toàn có thể tham gia vào một cuộc đàm phán từ khi bắt đầu tới khi kết thúc với những chatbot khác hoặc người dùng trong khi đi đến quyết định hoặc kết quả chung. Điều này cũng đã được Facebook xác nhận trong bài viết trên blog của Trung tâm Nghiên cứu Trí tuệ Nhân tạo (FAIR) vào tháng 6.

Mô hình hoạt động của chatbot thương thuyết
Mô hình hoạt động của chatbot thương thuyết

Các chatbot không bao giờ làm bất cứ điều bất chính nào ngoài việc thảo luận với nhau cách để chia mảng các mục nhất định (đại diện trong giao diện người dùng như những vật vô hại kiểu như cuốn sách, chiếc mũ và quả bóng) thành một sự chia tách lẫn nhau.

Mục đích là phát triển một chatbot có thể học hỏi từ sự giao tiếp của con người để thương lượng các thỏa thuận với người dùng cuối trôi chảy tới nỗi người dùng không nhận ra họ đang nói chuyện với một con robot, đó chính là thứ mà FAIR coi là thành công.

Nhưng rồi các lập trình viên của Facebook nhận ra rằng họ đã có một số sai lầm. Họ đã không khuyến khích chatbot giao tiếp với nhau theo các quy tắc tiếng Anh cơ bản của con người. Do vậy, trong nỗ ực học hỏi lẫn nhau, những chatbot này đã bắt đầu trao đổi qua lại bằng những từ viết tắt.

"Chatbot đã bỏ ngôn ngữ cơ bản sang một bên và tự tạo các từ viết tắt cho riêng mình", nhà nghiên cứu Dhruv Batra của FAIR chia sẻ. "Giống như khi tôi nói "the" 5 lần, bạn sẽ nghĩ rằng tôi muốn 5 bản sao của đồ vật này. Điều này chẳng khác gì cách các cộng đồng con người tạo ra những từ viết tắt".

Facebook thực sự đã cho ngừng hoạt động hệ thống AI nhưng không phải vì họ quá hoảng hốt khi vô tình tạo ra thứ có thể trở thành Skynet. Nhà nghiên cứu Mike Lewis của FAIR đã chia sẻ với FastCo rằng: Chúng tôi quan tâm tới việc tạo ra những chatboat có thể giao tiếp với con người chứ không chỉ có thể nói chuyện một cách hiệu quả với nhau, chính vì thế chúng tôi đã cho ngừng hoạt động và yêu cầu chúng giao tiếp một cách rõ ràng.

Đúng là có nhiều mục đích tốt đằng sau việc ngăn chặn robot tự phát triển ngôn ngữ riêng mà con người không thể hiểu được nhưng xin nhắc lại một lần nữa, đây là một hiện tượng tương đối bình thường khi dùng hai thiết bị machine learning và để chúng học hỏi lẫn nhau. Rất đáng để lưu ý rằng khi những cụm từ viết tắt của chatbot được giải thích, đoạn hội thoại giữa chúng sẽ được hiểu và sẽ không hề đáng sợ như trước đây.

Như FastCo đã viết, dạng machine learning này có thể giúp các thiết bị hoặc hệ thống thông minh liên lạc với nhau một cách hiệu quả hơn. Lợi ích thu được có thể đi kèm một số vấn đề nhưng nó hoàn toàn khác với việc giải phóng trí thông minh nhân tạo khỏi sự kiểm soát của con người.

Trong trường hợp này, điều duy nhất mà các chatbot có thể làm đó là trao đổi những quả bóng với nhau.

Công nghệ machine learning có rất nhiều ứng dụng hữu ích như cải tiến chẩn đoán trong y tế. Tuy nhiên nó cũng có thể bị lợi dụng cho các mục đích xấu. Về cơ bản, nó là cách để biên soạn và phân tích số lượng lớn dữ liệu và cho đến nay những rủi ro chủ yếu lên quan đến cách con người chọn để phân phối và sử dụng sức mạnh đó.

Hy vọng rằng con người đủ thông minh để không kết nối các chương trình thực nghiệm machine learning vào một thứ gì đó nguy hiểm như một đội quân robot laser hoặc một lò phản ứng hạt nhân. Nhưng thảm họa sẽ ngay lập tức xảy ra nếu có bất cứ ai làm những điều dại dột trên và nó sẽ là kết quả của sự cẩu thả và ngốc nghếch của con người chứ không phải vì các robot được cài sẵn sự thù ghét con người.

Ít nhất là chưa. Machine learning chưa tiến gần được tới giới hạn AI thực sự mà chỉ là bước dò dẫm đầu tiên của loài người với công nghệ này. Nếu có ai đó phải lo lắng về tin tức này trong năm 2017 thì đó là những nhà thương thuyết chuyên nghiệp bởi họ sắp bị chatbot cướp mất việc làm.

Theo Gizmodo

Các nhà thiết kế đưa ra 3 kiểu gập khả thi của chiếc Galaxy X bí ẩn

tinybook tinybook 1 tuần 2 ngày
Các nhà thiết kế đưa ra 3 kiểu gập khả thi của chiếc Galaxy X bí ẩn
Nhiều tin đồn cho rằng Samsung sẽ cho ra mắt một chiếc smartphone với màn hình có thể gập lại được, với tên gọi là Galaxy X.

Nếu tin đồn này là thật, iPhone ra mắt năm 2019 của Apple có thể là chiếc điện thoại đầu tiên có 5G

tinybook tinybook 2 tuần 4 ngày
Nếu tin đồn này là thật, iPhone ra mắt năm 2019 của Apple có thể là chiếc điện thoại đầu tiên có 5G
Mạng 5G sẽ không chỉ còn là những kế hoạch hay dự kiến nữa mà có thể sẽ được ra mắt sớm hơn chúng ta tưởng.

Chiếc Mi 6X của Xiaomi sẽ có phiên bản đặc biệt dành riêng cho fan cuồng của cô ca sĩ ảo đến từ Nhật Bản, Hatsune Miku

tinybook tinybook 2 tuần 6 ngày
Chiếc Mi 6X của Xiaomi sẽ có phiên bản đặc biệt dành riêng cho fan cuồng của cô ca sĩ ảo đến từ Nhật Bản, Hatsune Miku
Từ khâu đóng gói cho đến chính chiếc điện thoại Mi 6X đều trông rất là ảo diệu nhé! Đây hẳn là một món đồ không thể bỏ qua nếu bạn là fan cuồng của cô ca sĩ Miku

"Hiệu ứng đêm đầu tiên" - lời lý giải cho việc tại sao bạn luôn thấy khó ngủ mỗi khi đặt lưng xuống nơi xa lạ

tinybook tinybook 1 tuần 1 ngày
"Hiệu ứng đêm đầu tiên" - lời lý giải cho việc tại sao bạn luôn thấy khó ngủ mỗi khi đặt lưng xuống nơi xa lạ
Đây chính là cách bộ não canh gác và bảo vệ cho sự an toàn của chính bạn.

Telemetron - Nhạc cụ được thiết kể để tạo ra âm thanh du dương lạ thường trong môi trường không trọng lực

tinybook tinybook 1 tuần 1 ngày
Telemetron - Nhạc cụ được thiết kể để tạo ra âm thanh du dương lạ thường trong môi trường không trọng lực
Đây là thứ để loài người "khám phá cách thức tiến hóa của thiết kế và sáng tạo, khi ta không chỉ đơn giản là sống sót trong không gian".

6 lý do phổ biến gây hiện tượng choáng váng mỗi khi đứng dậy đột ngột

tinybook tinybook 1 tuần 1 ngày
6 lý do phổ biến gây hiện tượng choáng váng mỗi khi đứng dậy đột ngột
Cơn choáng khi ngồi dậy đột ngột có thể không nguy hiểm nhưng nó có thể là dấu hiệu của một vấn đề sức khoẻ nghiêm trọng hơn.

Cùng xem nghệ nhân làm nên những chiếc bánh hình thú chân thực đến khó tin

tinybook tinybook 1 tuần 1 ngày
Cùng xem nghệ nhân làm nên những chiếc bánh hình thú chân thực đến khó tin
Nghệ nhân có biệt danh Cake Illusionist nổi tiếng với việc làm nên những chiếc bánh hình thú siêu chân thực, bánh cưới, và nhiều loại bánh khác nữa. Những tác phẩm của cô mất đến nhiều ngày mới hoàn thành.

Balo phản lực dưới nước CUDA được in 3D hoàn toàn sẽ cho bạn lướt đi với tốc độ 12 km/h

tinybook tinybook 1 tuần 2 ngày
Balo phản lực dưới nước CUDA được in 3D hoàn toàn sẽ cho bạn lướt đi với tốc độ 12 km/h
CUDA là đứa con tinh thần của Archie O'Brien trong công cuộc đi tìm một hệ thống phản lực dưới nước giá rẻ.

Ở Tây Ban Nha, có một khu vực nhà kính trồng cây san sát rộng 200 km vuông, nhìn thấy được từ quỹ đạo, cung cấp rau quả cho toàn bộ Châu Âu

tinybook tinybook 1 tuần 2 ngày
Ở Tây Ban Nha, có một khu vực nhà kính trồng cây san sát rộng 200 km vuông, nhìn thấy được từ quỹ đạo, cung cấp rau quả cho toàn bộ Châu Âu
Để bảo vệ cho hơn 200 km vuông nhà kính được an toàn, người ta thường xuyên sử dụng hóa chất để đánh tan mưa bão.

Đâu là lý do cho việc ăn ba bữa một ngày?

tinybook tinybook 1 tuần 2 ngày
Đâu là lý do cho việc ăn ba bữa một ngày?
Vì thời điểm của ba bữa ăn trong ngày tối ưu với nhịp sinh học của con người, hay vì đó là truyền thống đang dần bị phá bỏ?

Ở Mỹ có một cây sồi "thừa kế" đất từ chính "cha" của nó, được luật pháp bảo vệ nên không ai dám động tới

tinybook tinybook 1 tuần 2 ngày
Ở Mỹ có một cây sồi "thừa kế" đất từ chính "cha" của nó, được luật pháp bảo vệ nên không ai dám động tới
Cái cây này đã thừa hưởng mảnh đất từ chính cha của nó, một cây sồi trắng có tên Cái Cây Tự sở hữu mình.

Con robot "đầu chỉ để trồng cây" biết tìm tới ánh sáng để quang hợp, nhún nhảy báo hiệu mỗi khi cây khát nước

tinybook tinybook 1 tuần 2 ngày
Con robot "đầu chỉ để trồng cây" biết tìm tới ánh sáng để quang hợp, nhún nhảy báo hiệu mỗi khi cây khát nước
Sản phẩm xuất phát từ tình yêu cây cối của chuyên gia robot Sun Tianqi.

Điểm danh 12 vụ phóng tên lửa tai hại nhất lịch sử, có vụ tên lửa vừa phóng đã lao đầu xuống đất

tinybook tinybook 1 tuần 2 ngày
Điểm danh 12 vụ phóng tên lửa tai hại nhất lịch sử, có vụ tên lửa vừa phóng đã lao đầu xuống đất
Tưởng chừng là một trong những công việc có độ thành công cao nhất nhưng hóa ra, phóng tên lửa mới chính là việc dễ thất bại nhất.

Khoa học đã chứng minh: Trí thông minh của bạn sẽ suy giảm đáng kể nếu không có điều hòa

tinybook tinybook 1 tuần 3 ngày
Khoa học đã chứng minh: Trí thông minh của bạn sẽ suy giảm đáng kể nếu không có điều hòa
Các nghiên cứu đã chứng minh rằng não không thể thực hiện chức năng như bình thường ở môi trường có nhiệt độ cao.

Thế giới đang trong cuộc chạy đua mới về số lượng các tòa nhà chọc trời

tinybook tinybook 1 tuần 3 ngày
Thế giới đang trong cuộc chạy đua mới về số lượng các tòa nhà chọc trời
Cao ốc hay tòa nhà chọc trời đang dần trở thành thước đo cho sự phồn vinh của mỗi quốc gia, mỗi dân tộc. Do đó không có gì lạ khi thế giới đang trong một cuộc chạy đua mới về số lượng các tòa nhà chọc trời.

[Video slow-motion] Ngắm cận cảnh lúc máy cắt cỏ hoạt động dưới tốc độ quay cực chậm lên tới 50.000fps

tinybook tinybook 1 tuần 3 ngày
[Video slow-motion] Ngắm cận cảnh lúc máy cắt cỏ hoạt động dưới tốc độ quay cực chậm lên tới 50.000fps
Ở tốc độ cực chậm, lên tới 50.000fps, bạn có thể quan sát được cách lưỡi dao xén cỏ hoạt động như thế nào và cách một chiếc máy cắt cỏ dọn sạch khu vườn ra sao.

Tàu vũ trụ Nga xuất sắc phá ký lục “cập bến” trạm ISS chỉ sau 4 giờ phóng lên quỹ đạo

tinybook tinybook 1 tuần 3 ngày
Tàu vũ trụ Nga xuất sắc phá ký lục “cập bến” trạm ISS chỉ sau 4 giờ phóng lên quỹ đạo
Tàu vũ trụ chở hàng Progress 70 của Nga được phóng lên từ bãi phóng Baikonur và chỉ mất chưa đầy 4 giờ để tiếp cận thành công trạm vũ trụ ISS, phá kỷ lục 6 giờ bay đã từng được ghi nhận.

Trải nghiệm cảm giác sống tiện nghi như đất liền trên ngôi nhà thuyền chạy bằng điện Mặt Trời

tinybook tinybook 1 tuần 3 ngày
Trải nghiệm cảm giác sống tiện nghi như đất liền trên ngôi nhà thuyền chạy bằng điện Mặt Trời
Với kích thước chỉ vọn vẻn dài 7,3 mét và rộng 2,4 mét nhưng con tàu kiêm nhà thuyền di động Le Koroc vẫn có thể đem đến một trải nghiệm cuộc sống không khác gì trên đất liền.

Nhà chiêm tinh Hàn Quốc nhìn thấy một ngôi sao rực sáng trên trời, 600 năm sau các nhà khoa học mới biết đó là thứ gì

tinybook tinybook 1 tuần 4 ngày
Nhà chiêm tinh Hàn Quốc nhìn thấy một ngôi sao rực sáng trên trời, 600 năm sau các nhà khoa học mới biết đó là thứ gì
Nỗ lực nghiên cứu này cho thấy trí tò mò của con người là vô địch và chính nhờ sự tò mò ấy, ta mới phát triển được tới như ngày hôm nay.

Chính nhờ huấn luyện viên Ekapol Chanthawong dạy cho đội bóng Thái Lan cách thiền, các em nhỏ mới tĩnh tâm vượt qua được nỗi sợ hãi bị kẹt trong hang không rõ ngày trở về

tinybook tinybook 1 tuần 5 ngày
Chính nhờ huấn luyện viên Ekapol Chanthawong dạy cho đội bóng Thái Lan cách thiền, các em nhỏ mới tĩnh tâm vượt qua được nỗi sợ hãi bị kẹt trong hang không rõ ngày trở về
May mắn thay, 10 năm tu hành nơi cửa Phật của Ekapol Chanthawong đã dạy cho anh cách thiền hiệu quả nhất.

Nghiên cứu mới: Nhện có thể dùng điện để bay trong không khí

tinybook tinybook 1 tuần 5 ngày
Nghiên cứu mới: Nhện có thể dùng điện để bay trong không khí
Những sinh vật nhỏ bé này vẫn không ngừng khiến chúng ta ngạc nhiên.

Các nhà khoa học đang thuần hóa cá ngừ vây xanh đang trong diện nguy cấp để có đủ nguyên liệu mà làm sushi

tinybook tinybook 1 tuần 5 ngày
Các nhà khoa học đang thuần hóa cá ngừ vây xanh đang trong diện nguy cấp để có đủ nguyên liệu mà làm sushi
Phương pháp nuôi trồng hải sản này sẽ cho ta một nguồn cá ngừ vô tận để mà thưởng thức.

Sự ấm lên toàn cầu đang làm rã đông...những xác chết từ thời Thế chiến thứ nhất

tinybook tinybook 1 tuần 6 ngày
Sự ấm lên toàn cầu đang làm rã đông...những xác chết từ thời Thế chiến thứ nhất
Đầu tiên là những khẩu súng được rã đông, sau đó đến những cuốn nhật ký, những lá thư, và rồi...những cơ thể người!

Xì hơi trong thế giới động vật: có loài xì hơi, có loài không, có loài lại phải cố xì hơi để mà sống

tinybook tinybook 2 tuần 1 giờ
Xì hơi trong thế giới động vật: có loài xì hơi, có loài không, có loài lại phải cố xì hơi để mà sống
Xì hơi, phụ phẩm của việc tiêu hóa lại có muôn hình vạn trạng trong thế giới động vật.

Cùng dạo quanh cửa hàng mới của Alibaba tại Hồng Công: kết hợp trải nghiệm mua sắm online và offline

tinybook tinybook 2 tuần 1 giờ
Cùng dạo quanh cửa hàng mới của Alibaba tại Hồng Công: kết hợp trải nghiệm mua sắm online và offline
Có rất nhiều lý do để lựa chọn mua sắm online hơn là mua hàng trực tiếp tại của hàng: tránh nơi đông người, có thể xem tất cả các kích thước và màu sắc có sẵn, và không bị quyến rũ bởi vô số những món hàng hấp dẫn hiện ra ngay trước mắt.

Vẽ khuôn mặt đã tìm ra cách đánh bại được công nghệ nhận diện khuôn mặt, nhưng Face ID của Apple vẫn đứng vững

tinybook tinybook 2 tuần 3 giờ
Vẽ khuôn mặt đã tìm ra cách đánh bại được công nghệ nhận diện khuôn mặt, nhưng Face ID của Apple vẫn đứng vững
Có những điểm đặc biệt để cách trang điểm Juggalo này vượt mặt được các thuật toán machine learning của công nghệ nhận diện khuôn mặt.

Báo cáo khoa học cho thấy viện nghiên cứu Mỹ phát triển được công nghệ tàng hình, có khả năng vô hình khi nhìn từ mọi hướng

tinybook tinybook 2 tuần 3 giờ
Báo cáo khoa học cho thấy viện nghiên cứu Mỹ phát triển được công nghệ tàng hình, có khả năng vô hình khi nhìn từ mọi hướng
Tuy nhiên cần một số điều kiện nhất định, vật thể mới có thể tàng hình thực sự.

Một con sói xám đơn độc vừa rời "vùng cấm" tại Chernobyl

tinybook tinybook 2 tuần 4 giờ
Một con sói xám đơn độc vừa rời "vùng cấm" tại Chernobyl
Thiết bị GPS trên người con sói đã không còn gửi tín hiệu về nữa, các nhà khoa học không rõ chuyện gì đã xảy ra.

Các nhà khoa học nghĩ rằng đây là 8 trường hợp có khả năng xóa sổ sự sống cao nhất

tinybook tinybook 2 tuần 4 giờ
Các nhà khoa học nghĩ rằng đây là 8 trường hợp có khả năng xóa sổ sự sống cao nhất
Những mối nguy gần như toàn đến từ Vũ trụ, ta không thể ra tay ngăn chặn bất cứ trường hợp nào trong số này.

[ĐỒ HỌA] Hành trình ra khỏi hang "căng thẳng hơn phim kinh dị" của các cầu thủ Thái Lan

tinybook tinybook 2 tuần 10 giờ
[ĐỒ HỌA] Hành trình ra khỏi hang "căng thẳng hơn phim kinh dị" của các cầu thủ Thái Lan
Để ra được khỏi hang, các cầu thủ nhí phải vượt qua một đoạn "thắt cổ chai" vô cùng nguy hiểm.
tinybook Công Nghệ Thông Tin








Chat