Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh

Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh
Theo: Neo Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Trong những tuần gần đây, một câu chuyện liên quan tới nghiên cứu thực nghiệm machine learning của Facebook đã được phát tán mạnh mẽ với các tiêu đề gây hoang mang.

"Các kỹ sư Facebook hốt hoảng, rút dây nguồn hệ thống AI sau khi hai robot phát triển ra môt loại ngôn ngữ riêng", một trang web viết. "Facebook đã tắt hết thống AI sau khi nó tự phát minh ra một loại ngôn ngữ đáng sợ", một trang web khác cho hay. "Liệu chúng ta có đang tạo ra quái vật hủy diệt Frankenstein không?", một trang khác đặt câu hỏi. Thậm chí, một tờ báo nhỏ của Anh trích dẫn một giáo sư về robot cho rằng vụ việc này cho thấy chúng ta nên kìm hãm sự phát triển của AI và sẽ là thảm họa chết người nếu công nghệ tương tự được đưa vào những con robot quân sự.

Liên quan tới cuộc cách mạng robot sắp tới, robot sát thủ, AI nguy hại hay sự diệt vong của loài người, các trang web có mức độ nghiêm túc khác nhau. Họ liên tục trích dẫn đoạn đối thoại dưới đây giữa hai chatbot của Facebook và cho rằng chúng đã học được cách nói chuyện với nhau rất đáng sợ:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Thực tế lại là một điều gì đó kỳ quặc hơn nhiều. Một vài tuần trước, FastCo Design đã có một bài viết về nỗ lực phát triển một "mạng lưới cộng tác generative" phục vụ mục đích phát triển phần mềm đàm phán của Facebook.

Hai chatbot xuất hiện trên đoạn hội thoại ở trên đã được thiết kế để cho thấy các tác nhân đối thoại với mục tiêu khác nhau hoàn toàn có thể tham gia vào một cuộc đàm phán từ khi bắt đầu tới khi kết thúc với những chatbot khác hoặc người dùng trong khi đi đến quyết định hoặc kết quả chung. Điều này cũng đã được Facebook xác nhận trong bài viết trên blog của Trung tâm Nghiên cứu Trí tuệ Nhân tạo (FAIR) vào tháng 6.

Mô hình hoạt động của chatbot thương thuyết
Mô hình hoạt động của chatbot thương thuyết

Các chatbot không bao giờ làm bất cứ điều bất chính nào ngoài việc thảo luận với nhau cách để chia mảng các mục nhất định (đại diện trong giao diện người dùng như những vật vô hại kiểu như cuốn sách, chiếc mũ và quả bóng) thành một sự chia tách lẫn nhau.

Mục đích là phát triển một chatbot có thể học hỏi từ sự giao tiếp của con người để thương lượng các thỏa thuận với người dùng cuối trôi chảy tới nỗi người dùng không nhận ra họ đang nói chuyện với một con robot, đó chính là thứ mà FAIR coi là thành công.

Nhưng rồi các lập trình viên của Facebook nhận ra rằng họ đã có một số sai lầm. Họ đã không khuyến khích chatbot giao tiếp với nhau theo các quy tắc tiếng Anh cơ bản của con người. Do vậy, trong nỗ ực học hỏi lẫn nhau, những chatbot này đã bắt đầu trao đổi qua lại bằng những từ viết tắt.

"Chatbot đã bỏ ngôn ngữ cơ bản sang một bên và tự tạo các từ viết tắt cho riêng mình", nhà nghiên cứu Dhruv Batra của FAIR chia sẻ. "Giống như khi tôi nói "the" 5 lần, bạn sẽ nghĩ rằng tôi muốn 5 bản sao của đồ vật này. Điều này chẳng khác gì cách các cộng đồng con người tạo ra những từ viết tắt".

Facebook thực sự đã cho ngừng hoạt động hệ thống AI nhưng không phải vì họ quá hoảng hốt khi vô tình tạo ra thứ có thể trở thành Skynet. Nhà nghiên cứu Mike Lewis của FAIR đã chia sẻ với FastCo rằng: Chúng tôi quan tâm tới việc tạo ra những chatboat có thể giao tiếp với con người chứ không chỉ có thể nói chuyện một cách hiệu quả với nhau, chính vì thế chúng tôi đã cho ngừng hoạt động và yêu cầu chúng giao tiếp một cách rõ ràng.

Đúng là có nhiều mục đích tốt đằng sau việc ngăn chặn robot tự phát triển ngôn ngữ riêng mà con người không thể hiểu được nhưng xin nhắc lại một lần nữa, đây là một hiện tượng tương đối bình thường khi dùng hai thiết bị machine learning và để chúng học hỏi lẫn nhau. Rất đáng để lưu ý rằng khi những cụm từ viết tắt của chatbot được giải thích, đoạn hội thoại giữa chúng sẽ được hiểu và sẽ không hề đáng sợ như trước đây.

Như FastCo đã viết, dạng machine learning này có thể giúp các thiết bị hoặc hệ thống thông minh liên lạc với nhau một cách hiệu quả hơn. Lợi ích thu được có thể đi kèm một số vấn đề nhưng nó hoàn toàn khác với việc giải phóng trí thông minh nhân tạo khỏi sự kiểm soát của con người.

Trong trường hợp này, điều duy nhất mà các chatbot có thể làm đó là trao đổi những quả bóng với nhau.

Công nghệ machine learning có rất nhiều ứng dụng hữu ích như cải tiến chẩn đoán trong y tế. Tuy nhiên nó cũng có thể bị lợi dụng cho các mục đích xấu. Về cơ bản, nó là cách để biên soạn và phân tích số lượng lớn dữ liệu và cho đến nay những rủi ro chủ yếu lên quan đến cách con người chọn để phân phối và sử dụng sức mạnh đó.

Hy vọng rằng con người đủ thông minh để không kết nối các chương trình thực nghiệm machine learning vào một thứ gì đó nguy hiểm như một đội quân robot laser hoặc một lò phản ứng hạt nhân. Nhưng thảm họa sẽ ngay lập tức xảy ra nếu có bất cứ ai làm những điều dại dột trên và nó sẽ là kết quả của sự cẩu thả và ngốc nghếch của con người chứ không phải vì các robot được cài sẵn sự thù ghét con người.

Ít nhất là chưa. Machine learning chưa tiến gần được tới giới hạn AI thực sự mà chỉ là bước dò dẫm đầu tiên của loài người với công nghệ này. Nếu có ai đó phải lo lắng về tin tức này trong năm 2017 thì đó là những nhà thương thuyết chuyên nghiệp bởi họ sắp bị chatbot cướp mất việc làm.

Theo Gizmodo

Xem siêu máy bay chữa cháy Global Super Tanker mang trong mình hơn 75 ngàn mét khối chất dập lửa

tinybook tinybook 6 ngày 12 giờ
Khoa Học Công Nghệ
Xem siêu máy bay chữa cháy Global Super Tanker mang trong mình hơn 75 ngàn mét khối chất dập lửa
Global Super Tanker là cỗ máy chữa cháy khổng lồ trên không. Nó có khả năng mang tối đa tới hơn 75 ngàn m3 chất làm chậm cháy, hỗ trợ chống đám cháy lan rộng.

Những hình ảnh ấn tượng về người lính cứu hỏa đang đương đầu với đám cháy dữ dội

tinybook tinybook 6 ngày 13 giờ
Khoa Học Công Nghệ
Những hình ảnh ấn tượng về người lính cứu hỏa đang đương đầu với đám cháy dữ dội
Nghề lính cứu hỏa, có thể nói là nghề của những con người hết sức, hết sức dũng cảm, và điều đó càng thể hiện rõ hơn khi chứng kiến những người anh hùng này đối đầu với đám cháy vô cùng khủng khiếp.

Phát hiện ra loài khủng long mới, trông như con vịt

tinybook tinybook 6 ngày 17 giờ
Khoa Học Công Nghệ
Phát hiện ra loài khủng long mới, trông như con vịt
Quên hình ảnh của khủng long dũng mãnh đi nhé.

Việc đào bitcoin tốn năng lượng và tạo ra rất nhiều khí thải, nó đang làm chậm quá trình phát triển của nhân loại

tinybook tinybook 6 ngày 17 giờ
Khoa Học Công Nghệ
Việc đào bitcoin tốn năng lượng và tạo ra rất nhiều khí thải, nó đang làm chậm quá trình phát triển của nhân loại
Một mặt trái mà chính cha đẻ của đồng bitcoin, Satoshi Nakamoto cũng không ngờ tới.

Elon Musk xác nhận rằng Tesla đang phát triển chip AI riêng với sự có mặt của huyền thoại từng làm cho AMD và Apple

tinybook tinybook 1 tuần 4 giờ
Khoa Học Công Nghệ
Elon Musk xác nhận rằng Tesla đang phát triển chip AI riêng với sự có mặt của huyền thoại từng làm cho AMD và Apple
Sau nhiều tin đồn thì cuối cùng, Elon Musk cũng đã xác nhận thông tin này. Chúng ta đã có thứ để mà mong đợi.

Đoạn video mãn nhãn của hàng ngàn con chim bay như một: tại sao chúng không đâm vào nhau?

tinybook tinybook 1 tuần 5 giờ
Khoa Học Công Nghệ
Đoạn video mãn nhãn của hàng ngàn con chim bay như một: tại sao chúng không đâm vào nhau?
Điều khó giải thích của tự nhiên này lại mang tới cho chúng ta những khoảnh khắc tuyệt vời.

Năm 2020, Toyota sẽ có nhà máy sản xuất ra năng lượng sạch từ ... phân bò

tinybook tinybook 1 tuần 5 giờ
Khoa Học Công Nghệ
Năm 2020, Toyota sẽ có nhà máy sản xuất ra năng lượng sạch từ ... phân bò
Đây là một bước dài của Toyota, cho phép họ tiến gần hơn tới tương lai không còn xe động cơ đốt.

Tàu thủy đầu tiên trên thế giới chạy bằng điện đã được hạ thủy tại Trung Quốc

tinybook tinybook 1 tuần 17 giờ
Khoa Học Công Nghệ
Tàu thủy đầu tiên trên thế giới chạy bằng điện đã được hạ thủy tại Trung Quốc
Ngay cả khi thế giới vẫn đang ngóng đợi về ý tưởng tàu chở hàng chạy điện tự lái của công ty Yara (Na Uy) dự kiến sẽ ra mắt vào năm sau thì Trung Quốc đã sớm biến ý tưởng này thành hiện thực.

Chưa đầy 12 tuổi nhưng 3 cô bé này đã có những phát minh tầm cỡ thế giới, có em còn tự lập trình được robot

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Chưa đầy 12 tuổi nhưng 3 cô bé này đã có những phát minh tầm cỡ thế giới, có em còn tự lập trình được robot
Thế giới tương lai đáng sống hơn là nhờ có các em đó!

Inov-8 ra mắt đôi giày đầu tiên trên thế giới sử dụng vật liệu graphene

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Inov-8 ra mắt đôi giày đầu tiên trên thế giới sử dụng vật liệu graphene
Vật liệu mỏng nhất thế giới, cứng hơn thép 200 lần vừa được Inov-8 dùng để chế tạo giày thể thao.

Nhìn lại hàng công nghệ đỉnh cao những năm 90 đây: máy tính RAM tận 1MB, TV 31 inch có jack A/V hiện đại

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Nhìn lại hàng công nghệ đỉnh cao những năm 90 đây: máy tính RAM tận 1MB, TV 31 inch có jack A/V hiện đại
Ngày nay, với những chiếc điện thoại công nghệ cao đầy đủ chức năng, chúng có thể làm được gần như mọi chuyện. Nhưng 20 năm trước, không dễ dàng như thế.

Phi công lái drone suýt thua khi bay thi với trí tuệ nhân tạo do NASA phát triển

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Phi công lái drone suýt thua khi bay thi với trí tuệ nhân tạo do NASA phát triển
Sau nhiều lần thua, phi công lái drone chuyên nghiệp Ken Loo cũng đã học được các khúc cua và giành chiến thắng.

Đã tìm ra cách phát hiện sớm các trận động đất lớn bằng... sóng trọng lực

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Đã tìm ra cách phát hiện sớm các trận động đất lớn bằng... sóng trọng lực
Một phương pháp mới giúp chúng ta đo lường cường độ của các trận động đất rất lớn chỉ trong vài phút.

Đây là 10 mẹo vặt từ 100 năm trước, vẫn hữu dụng cho đến tận bây giờ

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Đây là 10 mẹo vặt từ 100 năm trước, vẫn hữu dụng cho đến tận bây giờ
Người xưa cũng có những "lifehack" giúp cho cuộc sống dễ dàng hơn.

Đây là 6 cách IKEA đã đánh lừa não bộ của bạn, "bắt" bạn phải mua hàng của họ

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Đây là 6 cách IKEA đã đánh lừa não bộ của bạn, "bắt" bạn phải mua hàng của họ
Phân tích từ những hành vi mua sắm nhỏ nhất, IKEA đã có cho mình một hệ thống bán hàng khổng lồ và cực kì hiệu quả.

[Chùm ảnh] Cùng tham quan căn hộ cao cấp YO! Home có thể biến 5 căn phòng thành 1 chỉ trong nháy mắt

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
[Chùm ảnh] Cùng tham quan căn hộ cao cấp YO! Home có thể biến 5 căn phòng thành 1 chỉ trong nháy mắt
YO! Home sẽ giúp bạn tiết kiệm tối đa diện tích mà vẫn mang lại trải nghiệm về không gian sống sang trọng nhất.

Game thủ "lầy" nhất 2017 đây rồi: livestream trận UFC thật nhưng lại giả vờ là đang chơi game bằng tay cầm

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Game thủ "lầy" nhất 2017 đây rồi: livestream trận UFC thật nhưng lại giả vờ là đang chơi game bằng tay cầm
Một clip của game thủ trên mạng đã làm dậy sóng cộng đồng mạng khi anh ta phát sóng chương trình UFC tối thứ bảy vừa qua.

Bạn có biết: loài rùa sinh tồn qua mùa đông bằng cách... thở bằng mông

tinybook tinybook 1 tuần 4 ngày
Khoa Học Công Nghệ
Bạn có biết: loài rùa sinh tồn qua mùa đông bằng cách... thở bằng mông
Mùa đông lạnh lẽo đến, những chú rùa nước sạch sẽ ngủ đông dưới lòng hồ đóng băng, thay đổi cơ chế trao đổi chất và hấp thu oxy có trong nước thông qua... mông của chúng.

Chỉ là những con sóng bình thường nhưng dưới bàn tay nhiếp ảnh chuyên nghiệp, đó còn là nghệ thuật

tinybook tinybook 1 tuần 4 ngày
Khoa Học Công Nghệ
Chỉ là những con sóng bình thường nhưng dưới bàn tay nhiếp ảnh chuyên nghiệp, đó còn là nghệ thuật
Những con sóng cũng hoàn toàn có thể biến thành những tác phẩm nghệ thuật dưới óc sáng tạo và quan sát tài tình của nhiếp ảnh gia chuyên nghiệp.

Elon Musk tuyên bố sẽ phóng một chiếc Tesla Roadster màu mận lên Sao Hỏa, nhưng rồi lại tự nhận rằng "mình dựng chuyện"

tinybook tinybook 1 tuần 4 ngày
Khoa Học Công Nghệ
Elon Musk tuyên bố sẽ phóng một chiếc Tesla Roadster màu mận lên Sao Hỏa, nhưng rồi lại tự nhận rằng "mình dựng chuyện"
Liệu đây có phải là Musk lỡ lời, hối không kịp nên đành phải đánh lạc hướng dư luận?

Vì sao một nhà xuất bản tí hon như Bored Panda lại có thể thành công trong thời đọc tin trên Facebook?

tinybook tinybook 1 tuần 4 ngày
Khoa Học Công Nghệ
Vì sao một nhà xuất bản tí hon như Bored Panda lại có thể thành công trong thời đọc tin trên Facebook?
Một câu chuyện đáng chú ý về sự phi thường trong thế giới xuất bản Facebook.

Tiết lộ bất ngờ về “vua đồng hồ” Richard Mille và những cỗ máy thời gian có giá hàng triệu đô

tinybook tinybook 1 tuần 4 ngày
Khoa Học Công Nghệ
Tiết lộ bất ngờ về “vua đồng hồ” Richard Mille và những cỗ máy thời gian có giá hàng triệu đô
Richard Mille, hãng sản xuất những chiếc đồng hồ đắt tiền nhất trên thế giới với mức giá bán trung bình khoảng 185.000 USD, vẫn tiếp tục làm khách hàng “điêu đứng” vì sản xuất số lượng có hạn.

Video siêu hiếm: Elon Musk thời còn ít tóc đã mua hẳn một chiếc siêu xe 1 triệu USD, chưa đầy 1 năm sau đã đâm hỏng nó

tinybook tinybook 1 tuần 5 ngày
Khoa Học Công Nghệ
Video siêu hiếm: Elon Musk thời còn ít tóc đã mua hẳn một chiếc siêu xe 1 triệu USD, chưa đầy 1 năm sau đã đâm hỏng nó
Trông Elon Musk vừa trẻ lại vừa ít tóc, thấy thật khác ...

Hình ảnh chú tôm hùm mang logo Pepsi khiến người ta lo ngại về tương lai biển cả

tinybook tinybook 1 tuần 5 ngày
Khoa Học Công Nghệ
Hình ảnh chú tôm hùm mang logo Pepsi khiến người ta lo ngại về tương lai biển cả
Hình ảnh vỏ lon Pepsi xuất hiện trên phần càng của tôm hùm khiến nhiều người cảm thấy lo ngại về tác động tiêu cực của rác thải đại dương lên môi trường sinh thái biển.

21 điều thú vị về TV trên khắp thế giới mà bạn có thể chưa biết

tinybook tinybook 1 tuần 5 ngày
Khoa Học Công Nghệ
21 điều thú vị về TV trên khắp thế giới mà bạn có thể chưa biết
Có lẽ giờ đây chúng ta đã quá quen với TV và các chương trình truyền hình nhưng hiếm khi chúng ta nhận ra rằng, lịch sử phát triển TV và những con số xoay quanh TV lại có rất nhiều điều thú vị.

Chặng đường kỳ diệu của nhiếp ảnh "tự sướng", bắt đầu từ gần 200 năm trước

tinybook tinybook 1 tuần 6 ngày
Khoa Học Công Nghệ
Chặng đường kỳ diệu của nhiếp ảnh "tự sướng", bắt đầu từ gần 200 năm trước
Đã bao giờ bạn tự hỏi vào những ngày mới phát minh ra nghệ thuật nhiếp ảnh, người ta sẽ chụp ảnh selfie bằng cách nào chưa?

Ứng dụng thép tạo hình nguội để xây dựng các căn nhà có khả năng chống động đất

tinybook tinybook 1 tuần 6 ngày
Khoa Học Công Nghệ
Ứng dụng thép tạo hình nguội để xây dựng các căn nhà có khả năng chống động đất
Động đất là hiện tượng tự nhiên và con người khó lòng can thiệp được để thay đổi nhưng chúng ta có thể phòng ngừa và giảm thiểu tác động phá hủy của động đất.

Máy quét an ninh sân bay mới không còn yêu cầu bạn phải bỏ đồ ra ngoài nữa

tinybook tinybook 1 tuần 6 ngày
Khoa Học Công Nghệ
Máy quét an ninh sân bay mới không còn yêu cầu bạn phải bỏ đồ ra ngoài nữa
Công nghệ mới cho máy quét an ninh muốn giúp cái thiện trải nghiệm hành khách.

Môi trường sống ở London thậm chí còn độc hại hơn nhiều so với những vụ rò rỉ phóng xạ

tinybook tinybook 1 tuần 6 ngày
Khoa Học Công Nghệ
Môi trường sống ở London thậm chí còn độc hại hơn nhiều so với những vụ rò rỉ phóng xạ
Nhiều người từng nghĩ rằng việc để phóng xạ rò rỉ ra ngoài sẽ biến một khu vực nào đó trở thành "vùng đất chết". Ấy vậy mà mới đây kết quả nghiên cứu của các nhà khoa học đã chỉ ra rằng thành phố London có mức độ ô nhiễm còn vượt qua cả thảm họa phóng xạ.

Hướng đi tiếp theo của Samsung trên con đường phát triển sẽ như thế nào?

tinybook tinybook 1 tuần 6 ngày
Khoa Học Công Nghệ
Hướng đi tiếp theo của Samsung trên con đường phát triển sẽ như thế nào?
Samsung Electronics đang đẩy mạnh kế hoạch kết nối tất cả mọi sản phẩm của mình, nhờ vào trợ lý ảo bằng giọng nói của sử dụng trí tuệ nhân tạo.
tinybook Công Nghệ Thông Tin



Chat