Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh

Không, Facebook không hề hoảng loạn tới nỗi tự tay kết liễu cỗ máy AI do chính mình tạo ra vì nó quá thông minh
Theo: Neo Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Trong những tuần gần đây, một câu chuyện liên quan tới nghiên cứu thực nghiệm machine learning của Facebook đã được phát tán mạnh mẽ với các tiêu đề gây hoang mang.

"Các kỹ sư Facebook hốt hoảng, rút dây nguồn hệ thống AI sau khi hai robot phát triển ra môt loại ngôn ngữ riêng", một trang web viết. "Facebook đã tắt hết thống AI sau khi nó tự phát minh ra một loại ngôn ngữ đáng sợ", một trang web khác cho hay. "Liệu chúng ta có đang tạo ra quái vật hủy diệt Frankenstein không?", một trang khác đặt câu hỏi. Thậm chí, một tờ báo nhỏ của Anh trích dẫn một giáo sư về robot cho rằng vụ việc này cho thấy chúng ta nên kìm hãm sự phát triển của AI và sẽ là thảm họa chết người nếu công nghệ tương tự được đưa vào những con robot quân sự.

Liên quan tới cuộc cách mạng robot sắp tới, robot sát thủ, AI nguy hại hay sự diệt vong của loài người, các trang web có mức độ nghiêm túc khác nhau. Họ liên tục trích dẫn đoạn đối thoại dưới đây giữa hai chatbot của Facebook và cho rằng chúng đã học được cách nói chuyện với nhau rất đáng sợ:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Thực tế lại là một điều gì đó kỳ quặc hơn nhiều. Một vài tuần trước, FastCo Design đã có một bài viết về nỗ lực phát triển một "mạng lưới cộng tác generative" phục vụ mục đích phát triển phần mềm đàm phán của Facebook.

Hai chatbot xuất hiện trên đoạn hội thoại ở trên đã được thiết kế để cho thấy các tác nhân đối thoại với mục tiêu khác nhau hoàn toàn có thể tham gia vào một cuộc đàm phán từ khi bắt đầu tới khi kết thúc với những chatbot khác hoặc người dùng trong khi đi đến quyết định hoặc kết quả chung. Điều này cũng đã được Facebook xác nhận trong bài viết trên blog của Trung tâm Nghiên cứu Trí tuệ Nhân tạo (FAIR) vào tháng 6.

Mô hình hoạt động của chatbot thương thuyết
Mô hình hoạt động của chatbot thương thuyết

Các chatbot không bao giờ làm bất cứ điều bất chính nào ngoài việc thảo luận với nhau cách để chia mảng các mục nhất định (đại diện trong giao diện người dùng như những vật vô hại kiểu như cuốn sách, chiếc mũ và quả bóng) thành một sự chia tách lẫn nhau.

Mục đích là phát triển một chatbot có thể học hỏi từ sự giao tiếp của con người để thương lượng các thỏa thuận với người dùng cuối trôi chảy tới nỗi người dùng không nhận ra họ đang nói chuyện với một con robot, đó chính là thứ mà FAIR coi là thành công.

Nhưng rồi các lập trình viên của Facebook nhận ra rằng họ đã có một số sai lầm. Họ đã không khuyến khích chatbot giao tiếp với nhau theo các quy tắc tiếng Anh cơ bản của con người. Do vậy, trong nỗ ực học hỏi lẫn nhau, những chatbot này đã bắt đầu trao đổi qua lại bằng những từ viết tắt.

"Chatbot đã bỏ ngôn ngữ cơ bản sang một bên và tự tạo các từ viết tắt cho riêng mình", nhà nghiên cứu Dhruv Batra của FAIR chia sẻ. "Giống như khi tôi nói "the" 5 lần, bạn sẽ nghĩ rằng tôi muốn 5 bản sao của đồ vật này. Điều này chẳng khác gì cách các cộng đồng con người tạo ra những từ viết tắt".

Facebook thực sự đã cho ngừng hoạt động hệ thống AI nhưng không phải vì họ quá hoảng hốt khi vô tình tạo ra thứ có thể trở thành Skynet. Nhà nghiên cứu Mike Lewis của FAIR đã chia sẻ với FastCo rằng: Chúng tôi quan tâm tới việc tạo ra những chatboat có thể giao tiếp với con người chứ không chỉ có thể nói chuyện một cách hiệu quả với nhau, chính vì thế chúng tôi đã cho ngừng hoạt động và yêu cầu chúng giao tiếp một cách rõ ràng.

Đúng là có nhiều mục đích tốt đằng sau việc ngăn chặn robot tự phát triển ngôn ngữ riêng mà con người không thể hiểu được nhưng xin nhắc lại một lần nữa, đây là một hiện tượng tương đối bình thường khi dùng hai thiết bị machine learning và để chúng học hỏi lẫn nhau. Rất đáng để lưu ý rằng khi những cụm từ viết tắt của chatbot được giải thích, đoạn hội thoại giữa chúng sẽ được hiểu và sẽ không hề đáng sợ như trước đây.

Như FastCo đã viết, dạng machine learning này có thể giúp các thiết bị hoặc hệ thống thông minh liên lạc với nhau một cách hiệu quả hơn. Lợi ích thu được có thể đi kèm một số vấn đề nhưng nó hoàn toàn khác với việc giải phóng trí thông minh nhân tạo khỏi sự kiểm soát của con người.

Trong trường hợp này, điều duy nhất mà các chatbot có thể làm đó là trao đổi những quả bóng với nhau.

Công nghệ machine learning có rất nhiều ứng dụng hữu ích như cải tiến chẩn đoán trong y tế. Tuy nhiên nó cũng có thể bị lợi dụng cho các mục đích xấu. Về cơ bản, nó là cách để biên soạn và phân tích số lượng lớn dữ liệu và cho đến nay những rủi ro chủ yếu lên quan đến cách con người chọn để phân phối và sử dụng sức mạnh đó.

Hy vọng rằng con người đủ thông minh để không kết nối các chương trình thực nghiệm machine learning vào một thứ gì đó nguy hiểm như một đội quân robot laser hoặc một lò phản ứng hạt nhân. Nhưng thảm họa sẽ ngay lập tức xảy ra nếu có bất cứ ai làm những điều dại dột trên và nó sẽ là kết quả của sự cẩu thả và ngốc nghếch của con người chứ không phải vì các robot được cài sẵn sự thù ghét con người.

Ít nhất là chưa. Machine learning chưa tiến gần được tới giới hạn AI thực sự mà chỉ là bước dò dẫm đầu tiên của loài người với công nghệ này. Nếu có ai đó phải lo lắng về tin tức này trong năm 2017 thì đó là những nhà thương thuyết chuyên nghiệp bởi họ sắp bị chatbot cướp mất việc làm.

Theo Gizmodo

Chiếc đĩa bí ẩn của nước Nga: Dù bé tẹo nhưng chẳng ai nhấc nổi, bên dưới ẩn giấu bí mật gây ngỡ ngàng

tinybook tinybook 3 tháng 6 ngày
Chiếc đĩa bí ẩn của nước Nga: Dù bé tẹo nhưng chẳng ai nhấc nổi, bên dưới ẩn giấu bí mật gây ngỡ ngàng
Chiếc đĩa bí ẩn này thực chất là gì? Nếu biết, bạn sẽ hết sức bất ngờ đấy.

Thế giới đang sử dụng những cách nào để xây dựng nhà chống lũ?

tinybook tinybook 3 tháng 6 ngày
Thế giới đang sử dụng những cách nào để xây dựng nhà chống lũ?
Bên cạnh chống lũ, việc sống chung với lũ cũng là một trong những phương án nhiều nước áp dụng ngày nay. Điểm thiết yếu của chính sách này là phải xây dựng được những ngôi nhà chống lũ cho người dân.

2 thầy trò sử dụng thuật toán để biến bản đồ từ thời cổ đại thành hình chụp rõ nét như bản đồ vệ tinh

tinybook tinybook 3 tháng 1 tuần
2 thầy trò sử dụng thuật toán để biến bản đồ từ thời cổ đại thành hình chụp rõ nét như bản đồ vệ tinh
Nhìn vào để thấy sự thay đổi chóng mặt của đô thị hóa.

Nghệ nhân Zimbabwea biến lốp xe hơi cũ thành những đôi dép độc đáo

tinybook tinybook 3 tháng 1 tuần
Nghệ nhân Zimbabwea biến lốp xe hơi cũ thành những đôi dép độc đáo
Dù tạo ra một đôi giày thoải mái từ lốp xe hơi cũ nghe có vẻ phi thực tế, nhưng theo những gì Chitukutuku đang làm, quy trình này có vẻ khá đơn giản, chỉ mất chưa đầy 1 tiếng đồng hồ.

Chàng thanh niên mang hoài bão dọn sạch biển hợp tác cùng Microsoft, chế tạo tàu gom rác tự hành chạy bằng năng lượng Mặt Trời

tinybook tinybook 3 tháng 1 tuần
Chàng thanh niên mang hoài bão dọn sạch biển hợp tác cùng Microsoft, chế tạo tàu gom rác tự hành chạy bằng năng lượng Mặt Trời
Dự kiến, hai điểm đến tiếp theo của những hệ thống tàu này là Việt Nam và Cộng hoà Dominica.

Giới khảo cổ phát hiện hình vẽ mèo khổng lồ 2000 năm tuổi nằm ngay giữa sa mạc tại Peru

tinybook tinybook 3 tháng 1 tuần
Giới khảo cổ phát hiện hình vẽ mèo khổng lồ 2000 năm tuổi nằm ngay giữa sa mạc tại Peru
Theo đó, các nhà khảo cổ học đã bất ngờ phát hiện hình vẽ con mèo khổng lồ này khi đang cải tạo lối đi để du khách có thể dễ tới chiêm ngưỡng những bức hình khổng lồ tạo nên Nazca Lines bí ẩn và nổi tiếng.

Tìm xuống vùng biển sâu nhất đại dương, khoa học phát hiện sự thật đau lòng: Biến đổi khí hậu đang nghiêm trọng hơn bao giờ hết rồi

tinybook tinybook 3 tháng 1 tuần
Tìm xuống vùng biển sâu nhất đại dương, khoa học phát hiện sự thật đau lòng: Biến đổi khí hậu đang nghiêm trọng hơn bao giờ hết rồi
Có một xu hướng đáng ngại đang tồn tại dưới đáy đại dương, và khoa học đang tích cực tìm hiểu thêm.

Các nhà thiên văn học hóa giải bí ẩn về thiên hà chứa 99,99% vật chất tối

tinybook tinybook 3 tháng 1 tuần
Các nhà thiên văn học hóa giải bí ẩn về thiên hà chứa 99,99% vật chất tối
Nhiều khả năng đội nghiên cứu đưa nhận định cũ sẽ tính toán lại để tranh cãi bằng được rằng mình đúng. Chúng ta cùng "lót dép" chờ xem.

Phát hiện ra "siêu sức mạnh" mới của loài gấu nước: một lá chắn cực tím bằng huỳnh quang

tinybook tinybook 3 tháng 1 tuần
Phát hiện ra "siêu sức mạnh" mới của loài gấu nước: một lá chắn cực tím bằng huỳnh quang
Gấu nước vẫn chưa thôi làm chúng ta bất ngờ.

7 việc cực đơn giản nhưng nếu làm được, bạn đặc biệt hơn 90% dân số thế giới đấy

tinybook tinybook 3 tháng 1 tuần
7 việc cực đơn giản nhưng nếu làm được, bạn đặc biệt hơn 90% dân số thế giới đấy
Hãy thử xem mình có phải là "của hiếm" của thế giới hay không nhé.

Giáo sư đại học Mỹ tuyên bố: Rất có thể chúng ta đang sống trong một thế giới giả lập

tinybook tinybook 3 tháng 1 tuần
Giáo sư đại học Mỹ tuyên bố: Rất có thể chúng ta đang sống trong một thế giới giả lập
Theo kết luận của giáo sư, tỉ lệ sống trong giả lập của chúng ta lên tới 50%.

6 ý nghĩa thực sự mỗi khi bạn cảm thấy "Deja vu" - hiện tượng rất nhiều người đã từng trải nghiệm mà không giải thích nổi

tinybook tinybook 3 tháng 1 tuần
6 ý nghĩa thực sự mỗi khi bạn cảm thấy "Deja vu" - hiện tượng rất nhiều người đã từng trải nghiệm mà không giải thích nổi
Deja vu đến nay vẫn là một hiện tượng khoa học chưa thể giải thích. Dẫu vậy, nó vẫn mang đến những ý nghĩa nhất định.

Khoa học "đập hộp" hang động tách biệt khỏi thế giới suốt 5 triệu năm, và đây là những gì được tìm thấy

tinybook tinybook 3 tháng 1 tuần
Khoa học "đập hộp" hang động tách biệt khỏi thế giới suốt 5 triệu năm, và đây là những gì được tìm thấy
Một hang động bị đóng kín suốt 5,5 triệu năm, chỉ được tìm ra từ cách đây hơn 30 năm và đến nay mới chỉ có chưa đến 100 người được phép xuống thám hiểm.

Ai đã tạo ra thế giới kỳ lạ của "Nghìn lẻ một đêm"?

tinybook tinybook 3 tháng 1 tuần
Ai đã tạo ra thế giới kỳ lạ của "Nghìn lẻ một đêm"?
Nghìn lẻ một đêm là bộ sưu tập các truyện dân gian Trung Đông và Nam Á được biên soạn bằng tiếng Ả Rập trong thời đại hoàng kim Hồi giáo.

Sự kiện Dust Bowl: "Cơn bão đen" kéo dài 10 năm trên khắp Bắc Mỹ

tinybook tinybook 3 tháng 1 tuần
Sự kiện Dust Bowl: "Cơn bão đen" kéo dài 10 năm trên khắp Bắc Mỹ
Sự kiện Dust Bowl nổi bật với hiện tượng rất nhiều cơn bão và lốc hoành hành ở các đồng cỏ tại khu vực Bắc Mỹ và gây ra nhiều thiệt hại kinh khủng.

Cùng nghe thứ âm thanh tuyệt diệu của vũ trụ, được tạo ra từ loạt ảnh chụp Dải Ngân hà của NASA

tinybook tinybook 3 tháng 1 tuần
Cùng nghe thứ âm thanh tuyệt diệu của vũ trụ, được tạo ra từ loạt ảnh chụp Dải Ngân hà của NASA
NASA đã sử dụng quá trình chuyển hóa dữ liệu thành âm thanh để đem tới cách nhận thức về vũ trụ theo một cách hoàn toàn mới, đó là hé “âm thanh” của Dải Ngân hà.

Bất chấp “Bão Facebook" - quét tài khoản, không cho chạy quảng cáo, doanh nghiệp này vẫn có thể đạt 1000 đơn đặt hàng/ngày nhờ 3 việc sau

tinybook tinybook 3 tháng 1 tuần
Bất chấp “Bão Facebook" - quét tài khoản, không cho chạy quảng cáo, doanh nghiệp này vẫn có thể đạt 1000 đơn đặt hàng/ngày nhờ 3 việc sau
"Bão Facebook" đang là từ khoá hot trong thời gian gần đây trong cộng đồng thương mại điện tử và những doanh nghiệp nào có Facebook là kênh quảng cáo, khi bỗng dưng một ngày nhận được thông báo "tài khoản quảng cáo bị vô hiệu hoá", dù không vi phạm hoặc nhận được bất kỳ cảnh báo nào.

Điều gì sẽ xảy ra nếu hai khối rác không gian va chạm vào nhau?

tinybook tinybook 3 tháng 1 tuần
Điều gì sẽ xảy ra nếu hai khối rác không gian va chạm vào nhau?
Hiệu ứng Domino có thể tạo ra lớp mảnh vỡ không thể xuyên thủng, giam giữ chúng ta trên Trái đất vĩnh viễn.

10 sai lầm hay mắc phải trong việc dọn dẹp nhà cửa

tinybook tinybook 3 tháng 1 tuần
10 sai lầm hay mắc phải trong việc dọn dẹp nhà cửa
Trong quá trình dọn dẹp và chăm sóc nhà cửa, chúng ta thường mắc phải những sai lầm không chỉ gây hại cho những đồ vật xung quanh mà còn cho chính bản thân chúng ta.

Phân tích đá Mặt Trăng cho thấy nhà chị Hằng từng phát ra từ trường, và nhờ nó sự sống trên Trái Đất mới xuất hiện

tinybook tinybook 3 tháng 1 tuần
Phân tích đá Mặt Trăng cho thấy nhà chị Hằng từng phát ra từ trường, và nhờ nó sự sống trên Trái Đất mới xuất hiện
Lấy được mẫu đá từ hai cực của Mặt Trăng, ta sẽ biết rõ khẳng định này là đúng hay sai.

Sử dụng năng lượng Mặt Trời, thiết bị này lấy được nước từ không khí khô hanh như sa mạc

tinybook tinybook 3 tháng 1 tuần
Sử dụng năng lượng Mặt Trời, thiết bị này lấy được nước từ không khí khô hanh như sa mạc
Toàn bộ hệ thống chỉ nặng 7kg.

Bay liên tục 13.000 km không cần nghỉ, loài chim 'máy bay phản lực' lập kỷ lục vô tiền khoáng hậu

tinybook tinybook 3 tháng 1 tuần
Bay liên tục 13.000 km không cần nghỉ, loài chim máy bay phản lực lập kỷ lục vô tiền khoáng hậu
Bay hơn 12.000km từ Alaska đến New Zealand trong 11 ngày không ngừng nghỉ, một con chim choắt mỏ thẳng đuôi vằn xác lập một kỷ lục vô tiền khoáng hậu trong thế giới động vật.

Đột phá: lần đầu tiên khoa học đạt được siêu dẫn ở nhiệt độ phòng

tinybook tinybook 3 tháng 1 tuần
Đột phá: lần đầu tiên khoa học đạt được siêu dẫn ở nhiệt độ phòng
"Trạng thái siêu dẫn" vẫn là mục tiêu của khoa học vật chất suốt nhiều thập kỷ nay, và chúng ta đã đi được nửa chặng đường với đột phá mới.

Não sôi lên, hộp sọ nổ tung, cơ bắp bốc hơi và mô bị thủy tinh hóa, khoảnh khắc bị núi lửa hủy diệt còn kinh hoàng hơn địa ngục

tinybook tinybook 3 tháng 1 tuần
Não sôi lên, hộp sọ nổ tung, cơ bắp bốc hơi và mô bị thủy tinh hóa, khoảnh khắc bị núi lửa hủy diệt còn kinh hoàng hơn địa ngục
Núi lửa là một vết đứt gãy trên lớp vỏ của một hành tinh, như là Trái Đất cho phép dung nham, tro núi lửa, và khí thoát ra từ một lò magma ở dưới bề mặt.

Khoa học tìm ra giới hạn trên của tốc độ âm thanh: 36 km/s

tinybook tinybook 3 tháng 1 tuần
Khoa học tìm ra giới hạn trên của tốc độ âm thanh: 36 km/s
Trên lý thuyết, âm thanh truyền qua vật liệu hydro kim loại (mới chỉ tồn tại trên lý thuyết) sẽ có tốc độ cao nhất, gần với mốc 36 km/s.

4 lý do khiến TMĐT ngày càng thu hút tín đồ công nghệ

tinybook tinybook 3 tháng 1 tuần
4 lý do khiến TMĐT ngày càng thu hút tín đồ công nghệ
Với hàng loạt ưu đãi độc quyền hấp dẫn, cam kết xuất xứ và chính sách hậu mãi “sang xịn”, sự bùng nổ đơn hàng công nghệ trong những Lễ Hội mua sắm đã và đang chứng tỏ vị thế của hệ thống gian hàng chính hãng trên TMĐT trong lòng fan công nghệ.

Nếu không ngửi được 2 mùi này thì nhiều khả năng bạn đã mắc phải COVID-19

tinybook tinybook 3 tháng 1 tuần
Nếu không ngửi được 2 mùi này thì nhiều khả năng bạn đã mắc phải COVID-19
Mất khứu giác và vị giác là một trong những triệu chứng do coronavirus được báo cáo phổ biến nhất, và cũng là một trong những dấu hiệu rõ ràng nhất về sự hiện diện của virus SARS-CoV-2.

Đây là lý do tại sao ta nên xây cơ sở hạ tầng internet lượng tử trên quỹ đạo

tinybook tinybook 3 tháng 1 tuần
Đây là lý do tại sao ta nên xây cơ sở hạ tầng internet lượng tử trên quỹ đạo
Nghiên cứu mới chỉ ra rằng với một dàn 400 vệ tinh lượng tử, ta sẽ "dễ dàng" có được internet lượng tử toàn cầu.

6 dấu hiệu cho thấy nhà bạn có vấn đề về điện, cần khắc phục 'càng sớm càng tốt'

tinybook tinybook 3 tháng 1 tuần
6 dấu hiệu cho thấy nhà bạn có vấn đề về điện, cần khắc phục càng sớm càng tốt
Các nghiên cứu đã chỉ ra rằng hầu hết các ngôi nhà không tuân theo các biện pháp an toàn được khuyến nghị để ngăn ngừa điện giật và hỏa hoạn, tuy nhiên một số dấu hiệu dễ nhận thấy có thể giúp tìm ra vấn đề trước khi mọi thứ vượt khỏi tầm tay.

Mổ xẻ trạm gốc 5G Huawei mới thấy công ty Trung Quốc cần linh kiện Mỹ đến mức nào

tinybook tinybook 3 tháng 1 tuần
Mổ xẻ trạm gốc 5G Huawei mới thấy công ty Trung Quốc cần linh kiện Mỹ đến mức nào
Gần 30% giá trị trạm gốc 5G của Huawei thuộc về các linh kiện Mỹ, hầu hết trong số đó là các con chip tối quan trọng cho việc xử lý tín hiệu radio, điều khiển nguồn năng lượng cũng như chip nhớ.
tinybook Công Nghệ Thông Tin








Chat