Muốn biết được các AI đang nghĩ gì ư? Hãy để chúng cãi nhau

Muốn biết được các AI đang nghĩ gì ư? Hãy để chúng cãi nhau
Theo: Nguyễn Hải Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Dù có được một số thành công ban đầu, nhưng các chương trình AI này mới chỉ thành công ở mức rất sơ khai, và còn xa mới có khả năng tạo ra một hệ thống có thể đánh lừa con người.

Quá khó để có thể biết được một cỗ máy có trí tuệ nhân tạo đang dự tính điều gì, nhưng một ngày nào đó, chúng ta có thể xem hai chương trình AI tranh cãi với nhau để từ đó biết được điều đó.

Khái niệm này đến từ các nhà nghiên cứu tại OpenAI, một tổ chức phi lợi nhuận do hàng loạt các nhân vật có uy tín ở thung lũng Silicon lập nên, bao gồm Sam Altman nhà sáng lập của Y Combinator, chủ tịch Reid Hoffman của LinkedIn, thành viên hội đồng quản trị Facebook và là nhà sáng lập Palantir, Peter Thiel, cùng ông chủ của Tesla và SpaceX, Elon Musk.

Các nhà nghiên cứu OpenAI trước đó đã chỉ ra rằng hệ thống AI tự học đôi khi có thể phát triển các thói quen không ngờ đến và không mong muốn. Ví dụ, trong một trò chơi trên máy tính, một chương trình AI có thể tìm ra cách để lợi dụng “lỗi hệ thống” để có điểm số cao hơn. Trong một vài trường hợp nó còn có thể cho phép con người giám sát quá trình đào tạo của mình. Nhưng nếu chương trình AI đang thực hiện một điều gì đó quá phức tạp thì điều này lại không khả thi. Do đó các nhà nghiên cứu đề nghị thay thế bằng hai hệ thống cùng thảo luận một mục tiêu cụ thể.

Chúng tôi tin rằng cách tiếp cận tương tự có thể giúp chúng ta đào tạo hệ thống AI thực hiện nhiều tác vụ cao cấp có tính nhận thức cao hơn so với khả năng của con người, trong khi vẫn phù hợp với các ưu tiên cho con người.” Các nhà nghiên cứu viết trong một bài đăng trên blog.

Lấy một ví dụ, một hệ thống AI được thiết kế để chống lại các hacker con người hoặc AI. Để ngăn chặn hệ thống làm những việc có hại hoặc phi đạo đức, cần thiết phải thử thách nó để giải thích tính logic cho một hành động cụ thể. Logic đó có thể quá phức tạp để một người hiểu được, vì vậy các nhà nghiên cứu đề nghị có một AI khác tranh luận về sự khôn ngoan của hành động với hệ thống đầu tiên, sử dụng ngôn ngữ tự nhiên, dưới sự giám sát của con người.

Để có chương trình AI tranh luận với nhau đòi hỏi công nghệ phức tạp hơn những gì hiện có. Vì vậy cho đến nay, các nhà nghiên cứu tại OpenAI mới chỉ khám phá ý tưởng với một vài ví dụ cực kỳ đơn giản. Một ví dụ liên quan đến việc hai hệ thống AI cố gắng thuyết phục người giám sát về một ký tự ẩn bằng cách từ từ tiết lộ ra các pixel riêng lẻ.

Các nhà nghiên cứu đã tạo ra một website nơi hai người bất kỳ có thể thử đóng vai hệ thống AI đang tranh luận trong khi một bên thứ ba làm giám khảo. Hai bên tham gia tranh luận sẽ phải thuyết phục được giám khảo về bản chất của một hình ảnh trong khi làm nổi bật các bộ phận của nó. Cuối cùng việc người giám sát có thể cho biết ai là người chân thực sẽ trở nên dễ dàng hơn.

Minh họa về cách hai chương trình AI tranh luận với nhau.

Minh họa về cách hai chương trình AI tranh luận với nhau.

Vincent Conitzer , một nhà nghiên cứu tại đại học Duke, người nghiên cứu các vấn đề đạo đức liên quan đến AI, cho biết công việc vẫn đang ở giai đoạn đầu nhưng rất hứa hẹn. “Việc tạo ra các hệ thống AI có thể giải thích cho các quyết định của họ là một chương trình nghiên cứu đầy thách thức,” ông nói. “Nếu thành công, nó có thể đóng góp rất lớn cho việc sử dụng AI một cách có trách nhiệm.

Từ vị trí của nó – và bất chấp một số tuyên bố lo ngại về khả năng của AI từ Elon Musk (một nhà tài trợ cho OpenAI và gần đây vẫn là thành viên của hội đồng quản trị) – chúng ta vẫn còn cả chặng đường dài mới có thể có được hệ thống AI có mưu mẹo và khả năng đánh lừa chúng ta giống như trong các bộ phim Ex Maching và Her.

Tuy nhiên, một số nhà nghiên cứu AI vẫn đang tìm cách đảm bảo rằng công nghệ này không hoạt động theo những cách không lường trước được. Điều này có thể trở nên quan trọng hơn khi các chương trình AI chuyển thành các dạng phức tạp và khó hiểu hơn.

Ariel Procaccia, một giáo sư khoa học máy tính tại CMU, người nghiên cứu về việc ra quyết định với các hệ thống tự trị, cho biết “tôi nghĩ ý tưởng về việc định hướng giá trị thông qua cuộc tranh luận là rất thú vị và có tiềm năng sử dụng.”

Tuy nhiên, ông Procaccia cũng lưu ý rằng nghiên cứu này vẫn còn rất sơ khai và thậm chí, khái niệm này có thể chứa một mâu thuẫn cơ bản. “Để tranh luận các câu hỏi có giá trị theo cách có thể hiểu được với sự đánh giá của con người, các chương trình AI có thể cần phải nắm bắt các giá trị của con người ngay từ đầu,” ông nói. “Vì vậy cách tiếp cận này được cho là cầm đèn chạy trước ô tô.”

Iyad Rowan, nhà nghiên cứu tại phòng thí nghiệm Media của MIT, nói thêm rằng các nhà nghiên cứu cần phải cẩn thận vì một cặp AI sẽ không tham gia một cuộc tranh luận xoay vòng. “Tôi nghĩ rằng chúng sẽ nhanh chóng chạm tới các vấn đề rất phức tạp,” ông nói. “Đầu tiên là làm thế nào để tự động hóa việc tranh luận bằng ngôn ngữ tự nhiên vẫn là một vấn đề chưa giải quyết được.”

Tham khảo Technologyreview

Tham gia ngay thử thách thiết kế cánh tay robot của NASA để giành giải thưởng lên tới 5.000 USD

tinybook tinybook 1 ngày 4 giờ
Tham gia ngay thử thách thiết kế cánh tay robot của NASA để giành giải thưởng lên tới 5.000 USD
Thử thách sáng tạo với cánh tay robot Astrobee của NASA hứa hẹn sẽ đem tới cơ hội thể hiện tài năng lập trình và thiết kế của mọi công dân trên thế giới.

Đây là lý do vì sao chẳng ai trong ngành công nghiệp xe hơi nói về robot, trừ Elon Musk

tinybook tinybook 1 ngày 6 giờ
Đây là lý do vì sao chẳng ai trong ngành công nghiệp xe hơi nói về robot, trừ Elon Musk
CB Insights - một công ty phân tích dữ liệu - đã sử dụng một thuật toán ngôn ngữ học để phân tích các phiên họp cổ đông của GM, Ford, Daimler và Tesla. Kết quả cho thấy, Tesla dành nhiều thời gian để nói về robot hơn hẳn 3 công ty còn lại.

Elon Musk muốn loại bỏ coban khỏi pin thế hệ mới, nhưng điều ấy là vô cùng khó khăn

tinybook tinybook 1 ngày 11 giờ
Elon Musk muốn loại bỏ coban khỏi pin thế hệ mới, nhưng điều ấy là vô cùng khó khăn
Chúng ta hãy cùng đi tìm hiểu lý do tại sao việc chế tạo ra một loại pin không coban - nguyên tố được gán cho cái tên "kim cương máu của ngành công nghiệp sản xuất pin", lại là điều không hề đơn giản.

Gặp gỡ nhà tiên tri lợn vừa đưa ra dự đoán 4 đội bóng lọt vào bán kết World Cup 2018

tinybook tinybook 1 ngày 22 giờ
Gặp gỡ nhà tiên tri lợn vừa đưa ra dự đoán 4 đội bóng lọt vào bán kết World Cup 2018
Chú lợn có tên Mystic Marcus từng nắm giữ nhiều kỷ lục dự đoán chính xác đã đưa ra phỏng đoán về những đội bóng góp mặt tại bán kết trong khuôn khổ World Cup 2018.

Công nghệ giá rẻ này có thể biến CO2 thành nhiên liệu cho xe hơi và máy bay với chi phí chưa đầy 100 USD

tinybook tinybook 2 ngày 3 giờ
Công nghệ giá rẻ này có thể biến CO2 thành nhiên liệu cho xe hơi và máy bay với chi phí chưa đầy 100 USD
Các nhà khoa học Mỹ và Canada đang nghiên cứu một phương pháp mới giúp biển đổi CO2 trong không khí trở thành nhiên liệu sử dụng cho xe hơi và máy bay với chi phí vô cùng rẻ, chỉ chưa đầy 100 USD.

CHÍNH THỨC: Chứng minh được thuyết tương đối của Einstein ở mức độ thiên hà

tinybook tinybook 2 ngày 8 giờ
CHÍNH THỨC: Chứng minh được thuyết tương đối của Einstein ở mức độ thiên hà
Dường như sở thích của cả giới khoa học là chứng minh những gì thiên tài Albert Einstein nói là đúng, bên cạnh sở thích chứng minh những gì thiên tài này nói là sai.

Thế giới sẽ sử dụng 50% năng lượng có thể tái tạo và 11% than đá vào năm 2050

tinybook tinybook 2 ngày 11 giờ
Thế giới sẽ sử dụng 50% năng lượng có thể tái tạo và 11% than đá vào năm 2050
Theo một báo cáo mới đây của Bloomberg New Energy Finance về những thay đổi trong sản xuất điện đến năm 2050, thì trong 33 năm tới, thế giới sẽ sản sinh gần 50% điện năng từ năng lượng có thể tái tạo.

Robot có khả năng đọc suy nghĩ của con người sẽ xuất hiện sớm hơn bạn nghĩ

tinybook tinybook 2 ngày 12 giờ
Robot có khả năng đọc suy nghĩ của con người sẽ xuất hiện sớm hơn bạn nghĩ
Robot hiện nay cực kỳ phổ biến, và chúng ngày một thông minh hơn.

Baidu phát triển thành công thuật toán AI có thể phát hiện ung thư chính xác hơn cả chuyên gia y tế

tinybook tinybook 3 ngày 11 giờ
Baidu phát triển thành công thuật toán AI có thể phát hiện ung thư chính xác hơn cả chuyên gia y tế
Các nhà nghiên cứu trí tuệ nhân tạo tại Baidu mới đây vừa công bố một thuật toán deep learning mới, hỗ trợ các chuyên gia y tế xác định sự tồn tại của các khối u hay ung thư một cách chính xác hơn.

Những người này khẳng định mình bị... dị ứng với sóng Wifi, nhưng sự thực đằng sau là gì?

tinybook tinybook 5 ngày 6 giờ
Những người này khẳng định mình bị... dị ứng với sóng Wifi, nhưng sự thực đằng sau là gì?
Chứng bệnh kỳ lạ gì thế? Mà biết đâu lại có thật, vì chẳng phải chúng ta từng có người dị ứng với nước hay sao?

Điều khiển được hạt nước trên bảng mạch, phòng thí nghiệm MIT tạo ra cách điều chế thuốc đột phá ít tốn kém hơn nhiều trước đây

tinybook tinybook 5 ngày 9 giờ
Điều khiển được hạt nước trên bảng mạch, phòng thí nghiệm MIT tạo ra cách điều chế thuốc đột phá ít tốn kém hơn nhiều trước đây
Một cách thức thực hiện công nghệ kênh dẫn vi lưu khác, cho phép ta có thể thực hiện những thử nghiệm sinh học hiệu quả và bớt tốn kém hơn.

Thắng đội tuyển Đức, người dân Mexico ăn mừng gây ra cả động đất. Đây là giải thích khoa học đằng sau cơn địa chấn này

tinybook tinybook 6 ngày 6 giờ
Thắng đội tuyển Đức, người dân Mexico ăn mừng gây ra cả động đất. Đây là giải thích khoa học đằng sau cơn địa chấn này
Người dân Mexico đã thực sự làm nên kì tích! Hai kì tích chỉ trong vòng một ngày!

Thử nghiệm đơn giản với cổ tay cho biết bạn có thể làm người mẫu, vận động viên hay võ sĩ sumo

tinybook tinybook 6 ngày 6 giờ
Thử nghiệm đơn giản với cổ tay cho biết bạn có thể làm người mẫu, vận động viên hay võ sĩ sumo
Một lần nữa, người Nhật lại khiến Internet bất ngờ vì phương thức đánh giá thể trạng đơn giản mà đầy hiệu quả.

Viễn cảnh thất nghiệp của công nhân nhà kho tại Trung Quốc rõ nét khi nhà máy 200.000 đơn hàng mỗi ngày của JD chỉ cần có 4 người làm

tinybook tinybook 6 ngày 12 giờ
Viễn cảnh thất nghiệp của công nhân nhà kho tại Trung Quốc rõ nét khi nhà máy 200.000 đơn hàng mỗi ngày của JD chỉ cần có 4 người làm
JD.com, một gã khổng lồ thương mại điện tử tại Trung Quốc, vừa xây dựng một trung tâm hàng hóa lớn tại Thượng Hải với chức năng tổ chức, đóng gói và vận chuyển 200.000 đơn hàng mỗi ngày. Công việc của 4 nhân viên duy nhất tại đây là...bảo trì robot.

Ngắm con đường dốc nhất thế giới với độ dốc 35%, làm chủ yếu từ bê tông vì lo nhựa đường bị chảy xuống

tinybook tinybook 6 ngày 23 giờ
Ngắm con đường dốc nhất thế giới với độ dốc 35%, làm chủ yếu từ bê tông vì lo nhựa đường bị chảy xuống
Phải là người có sức khỏe thể chất cực tốt thì bạn mới có thể vượt qua được con dốc Baldwin Street với độ dốc lên tới 19 độ mà không bở hơi tai.

Bạn biết gì về hệ thống cáp quang biển dài 885.000km, "xương sống" của mạng lưới Internet trên toàn thế giới?

tinybook tinybook 6 ngày 23 giờ
Bạn biết gì về hệ thống cáp quang biển dài 885.000km, "xương sống" của mạng lưới Internet trên toàn thế giới?
Cáp quang biển là hệ thống phức tạp, được bảo vệ rất cẩn thận, không phải "như cọng bún" mà ta thường nói đùa mỗi khi đứt cáp.

Nếu là người ưa thích bơi lội, hãy cẩn thận trong việc lựa chọn bể bơi của mình!

tinybook tinybook 1 tuần 4 giờ
Nếu là người ưa thích bơi lội, hãy cẩn thận trong việc lựa chọn bể bơi của mình!
Vì theo thông tin mới nhất được thông báo từ Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh (CDC), bể bơi là nơi cư ngụ của hàng hà sa số các loại vi khuẩn.

Thế giới sẽ ra sao nếu loài gián tuyệt chủng? Câu trả lời sẽ khiến bạn bất ngờ

tinybook tinybook 1 tuần 6 giờ
Thế giới sẽ ra sao nếu loài gián tuyệt chủng? Câu trả lời sẽ khiến bạn bất ngờ
Giờ đây bạn đã không còn phải hít thở chung bầu không khí với loài sinh vật gớm ghiếc này nữa...

Sử dụng âm thanh và siêu thanh, các nhà nghiên cứu tấn công thành công ổ cứng HDD và hệ điều hành máy tính

tinybook tinybook 1 tuần 11 giờ
Sử dụng âm thanh và siêu thanh, các nhà nghiên cứu tấn công thành công ổ cứng HDD và hệ điều hành máy tính
Trong thời đại số, sinh ra những vũ khí tấn công công nghệ hoàn toàn mới.

Bên trong nhóm Grand Challenge của Amazon - Phòng thí nghiệm bí mật nghiên cứu ung thư và các dự án mạo hiểm khác

tinybook tinybook 1 tuần 1 ngày
Bên trong nhóm Grand Challenge của Amazon - Phòng thí nghiệm bí mật nghiên cứu ung thư và các dự án mạo hiểm khác
Đây như một phiên bản Google X trong Amazon khi hầu hết các lãnh đạo của nhóm đều đến từ Google X với vai trò và nhiệm vụ tương tự như vậy.

Yếu tố tâm lý đằng sau thành công của cặp tai nghe không dây AirPod

tinybook tinybook 1 tuần 1 ngày
Yếu tố tâm lý đằng sau thành công của cặp tai nghe không dây AirPod
Dù bị cả thế giới internet cười nhạo khi bộ đôi tai nghe không dây này ra mắt, nhưng giờ AirPod đã trở thành chiếc tai nghe không dây bán chạy hàng đầu thế giới. Khoa học về tâm lý con người có thể giải thích cho điều này.

Khoa học đã chứng minh: Nhện là bạn, không phải kẻ thù!

tinybook tinybook 1 tuần 1 ngày
Khoa học đã chứng minh: Nhện là bạn, không phải kẻ thù!
Hãy tập làm quen với sự hiện diện của chúng trong căn nhà của mình bạn nhé.

Phát hiện xác của loài ếch cổ đại được bảo quản bên trong 4 mảnh hổ phách 100 triệu năm tuổi

tinybook tinybook 1 tuần 1 ngày
Phát hiện xác của loài ếch cổ đại được bảo quản bên trong 4 mảnh hổ phách 100 triệu năm tuổi
Phát hiện này hết sức quan trọng, bởi hóa thạch của các sinh vật lưỡng cư sống trong rừng nhiệt đới rất hiếm, thêm nữa, các nhà khoa học chưa chắc chắn đâu là thời điểm mà ếch bắt đầu di cư đến môi trường nhiệt đới.

Giải ngố về VAR, công nghệ Video Hỗ trợ Trọng tài tại World Cup 2018 khiến không cầu thủ nào có thể chơi xấu được nữa

tinybook tinybook 1 tuần 1 ngày
Giải ngố về VAR, công nghệ Video Hỗ trợ Trọng tài tại World Cup 2018 khiến không cầu thủ nào có thể chơi xấu được nữa
Có những ý kiến trái chiều cho rằng VAR sẽ làm mất đi bản chất hay vốn có của bóng đá.

Ở Nhật Bản có hẳn một cuộc thi trưng bày cảnh quan nhà vườn ngay trên xe tải vô cùng độc đáo

tinybook tinybook 1 tuần 2 ngày
Ở Nhật Bản có hẳn một cuộc thi trưng bày cảnh quan nhà vườn ngay trên xe tải vô cùng độc đáo
Dù diện tích thùng xe tải khá nhỏ nhưng các nhà thiết kế vẫn khéo léo sắp xếp cảnh quan y hệt như một khu vườn trong thực tế.

Nhân viên Amazon viết tâm thư yêu cầu CEO Jeff Bezos ngừng cung cấp dịch vụ nhận diện khuôn mặt cho chính phủ

tinybook tinybook 1 ngày 7 giờ
Nhân viên Amazon viết tâm thư yêu cầu CEO Jeff Bezos ngừng cung cấp dịch vụ nhận diện khuôn mặt cho chính phủ
Ngoài ra, họ còn kêu gọi tỷ phú này loại bỏ công ty dữ liệu lớn Palantir khỏi dịch vụ đám mây Amazon Web Services.

Mỹ chế tạo máy tính siêu nhỏ, kích thước chỉ bằng một góc hạt gạo nhưng vẫn nghe nhạc, xem phim, chơi game thoải mái

tinybook tinybook 1 ngày 10 giờ
Mỹ chế tạo máy tính siêu nhỏ, kích thước chỉ bằng một góc hạt gạo nhưng vẫn nghe nhạc, xem phim, chơi game thoải mái
Một trường đại học tại Mỹ mới đây đã chế tạo ra được một máy tính siêu nhỏ với kích thước chỉ bằng một góc của hạt gạo.

Bực bội vì Facebook thay đổi thuật toán, trang báo châm biếm hài hước The Onion lập tức cho Mark Zuckerberg.... "ăn hành"

tinybook tinybook 1 ngày 10 giờ
Bực bội vì Facebook thay đổi thuật toán, trang báo châm biếm hài hước The Onion lập tức cho Mark Zuckerberg.... "ăn hành"
Các bài viết của báo The Onion (tạm dịch là Báo củ hành) mấy hôm nay liên tục lôi CEO của Facebook, anh Mark Zuckerberg ra làm trò cười.

Tranh cãi nảy lửa qua email, Elon Musk gọi kẻ phá hoại Tesla là "một con người tồi tệ"

tinybook tinybook 1 ngày 11 giờ
Tranh cãi nảy lửa qua email, Elon Musk gọi kẻ phá hoại Tesla là "một con người tồi tệ"
Tờ Washington Post đã cung cấp cho chúng ta đoạn hội thoại có phần căng thẳng giữa CEO của Tesla và Martin Tripp - cựu nhân viên của công ty này bị buộc tội đã đánh cắp bí mật thương mại và lan truyền thông tin sai sự thật.

Australia: Internet quá lag để xem World Cup, Thủ tướng đích thân "hỏi thăm" khiến nhà mạng răm rắp sửa lỗi

tinybook tinybook 1 ngày 11 giờ
Australia: Internet quá lag để xem World Cup, Thủ tướng đích thân "hỏi thăm" khiến nhà mạng răm rắp sửa lỗi
Đã cầm bản quyền World Cup thì đừng truyền qua mạng lag, nếu không sẽ bị Thủ tướng đến gõ cửa nhà nói chuyện như thế này đấy.
tinybook Công Nghệ Thông Tin








Chat