Muốn biết được các AI đang nghĩ gì ư? Hãy để chúng cãi nhau

Muốn biết được các AI đang nghĩ gì ư? Hãy để chúng cãi nhau
Theo: Nguyễn Hải Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Dù có được một số thành công ban đầu, nhưng các chương trình AI này mới chỉ thành công ở mức rất sơ khai, và còn xa mới có khả năng tạo ra một hệ thống có thể đánh lừa con người.

Quá khó để có thể biết được một cỗ máy có trí tuệ nhân tạo đang dự tính điều gì, nhưng một ngày nào đó, chúng ta có thể xem hai chương trình AI tranh cãi với nhau để từ đó biết được điều đó.

Khái niệm này đến từ các nhà nghiên cứu tại OpenAI, một tổ chức phi lợi nhuận do hàng loạt các nhân vật có uy tín ở thung lũng Silicon lập nên, bao gồm Sam Altman nhà sáng lập của Y Combinator, chủ tịch Reid Hoffman của LinkedIn, thành viên hội đồng quản trị Facebook và là nhà sáng lập Palantir, Peter Thiel, cùng ông chủ của Tesla và SpaceX, Elon Musk.

Các nhà nghiên cứu OpenAI trước đó đã chỉ ra rằng hệ thống AI tự học đôi khi có thể phát triển các thói quen không ngờ đến và không mong muốn. Ví dụ, trong một trò chơi trên máy tính, một chương trình AI có thể tìm ra cách để lợi dụng “lỗi hệ thống” để có điểm số cao hơn. Trong một vài trường hợp nó còn có thể cho phép con người giám sát quá trình đào tạo của mình. Nhưng nếu chương trình AI đang thực hiện một điều gì đó quá phức tạp thì điều này lại không khả thi. Do đó các nhà nghiên cứu đề nghị thay thế bằng hai hệ thống cùng thảo luận một mục tiêu cụ thể.

Chúng tôi tin rằng cách tiếp cận tương tự có thể giúp chúng ta đào tạo hệ thống AI thực hiện nhiều tác vụ cao cấp có tính nhận thức cao hơn so với khả năng của con người, trong khi vẫn phù hợp với các ưu tiên cho con người.” Các nhà nghiên cứu viết trong một bài đăng trên blog.

Lấy một ví dụ, một hệ thống AI được thiết kế để chống lại các hacker con người hoặc AI. Để ngăn chặn hệ thống làm những việc có hại hoặc phi đạo đức, cần thiết phải thử thách nó để giải thích tính logic cho một hành động cụ thể. Logic đó có thể quá phức tạp để một người hiểu được, vì vậy các nhà nghiên cứu đề nghị có một AI khác tranh luận về sự khôn ngoan của hành động với hệ thống đầu tiên, sử dụng ngôn ngữ tự nhiên, dưới sự giám sát của con người.

Để có chương trình AI tranh luận với nhau đòi hỏi công nghệ phức tạp hơn những gì hiện có. Vì vậy cho đến nay, các nhà nghiên cứu tại OpenAI mới chỉ khám phá ý tưởng với một vài ví dụ cực kỳ đơn giản. Một ví dụ liên quan đến việc hai hệ thống AI cố gắng thuyết phục người giám sát về một ký tự ẩn bằng cách từ từ tiết lộ ra các pixel riêng lẻ.

Các nhà nghiên cứu đã tạo ra một website nơi hai người bất kỳ có thể thử đóng vai hệ thống AI đang tranh luận trong khi một bên thứ ba làm giám khảo. Hai bên tham gia tranh luận sẽ phải thuyết phục được giám khảo về bản chất của một hình ảnh trong khi làm nổi bật các bộ phận của nó. Cuối cùng việc người giám sát có thể cho biết ai là người chân thực sẽ trở nên dễ dàng hơn.

Minh họa về cách hai chương trình AI tranh luận với nhau.

Minh họa về cách hai chương trình AI tranh luận với nhau.

Vincent Conitzer , một nhà nghiên cứu tại đại học Duke, người nghiên cứu các vấn đề đạo đức liên quan đến AI, cho biết công việc vẫn đang ở giai đoạn đầu nhưng rất hứa hẹn. “Việc tạo ra các hệ thống AI có thể giải thích cho các quyết định của họ là một chương trình nghiên cứu đầy thách thức,” ông nói. “Nếu thành công, nó có thể đóng góp rất lớn cho việc sử dụng AI một cách có trách nhiệm.

Từ vị trí của nó – và bất chấp một số tuyên bố lo ngại về khả năng của AI từ Elon Musk (một nhà tài trợ cho OpenAI và gần đây vẫn là thành viên của hội đồng quản trị) – chúng ta vẫn còn cả chặng đường dài mới có thể có được hệ thống AI có mưu mẹo và khả năng đánh lừa chúng ta giống như trong các bộ phim Ex Maching và Her.

Tuy nhiên, một số nhà nghiên cứu AI vẫn đang tìm cách đảm bảo rằng công nghệ này không hoạt động theo những cách không lường trước được. Điều này có thể trở nên quan trọng hơn khi các chương trình AI chuyển thành các dạng phức tạp và khó hiểu hơn.

Ariel Procaccia, một giáo sư khoa học máy tính tại CMU, người nghiên cứu về việc ra quyết định với các hệ thống tự trị, cho biết “tôi nghĩ ý tưởng về việc định hướng giá trị thông qua cuộc tranh luận là rất thú vị và có tiềm năng sử dụng.”

Tuy nhiên, ông Procaccia cũng lưu ý rằng nghiên cứu này vẫn còn rất sơ khai và thậm chí, khái niệm này có thể chứa một mâu thuẫn cơ bản. “Để tranh luận các câu hỏi có giá trị theo cách có thể hiểu được với sự đánh giá của con người, các chương trình AI có thể cần phải nắm bắt các giá trị của con người ngay từ đầu,” ông nói. “Vì vậy cách tiếp cận này được cho là cầm đèn chạy trước ô tô.”

Iyad Rowan, nhà nghiên cứu tại phòng thí nghiệm Media của MIT, nói thêm rằng các nhà nghiên cứu cần phải cẩn thận vì một cặp AI sẽ không tham gia một cuộc tranh luận xoay vòng. “Tôi nghĩ rằng chúng sẽ nhanh chóng chạm tới các vấn đề rất phức tạp,” ông nói. “Đầu tiên là làm thế nào để tự động hóa việc tranh luận bằng ngôn ngữ tự nhiên vẫn là một vấn đề chưa giải quyết được.”

Tham khảo Technologyreview

Bangkok lần đầu tiên sử dụng drone phun nước vào không khí để giảm bụi độc hại PM2.5

tinybook tinybook 2 tuần 5 ngày
Bangkok lần đầu tiên sử dụng drone phun nước vào không khí để giảm bụi độc hại PM2.5
Thống đốc thủ đô Bangkok, Thái Lan mới đây đã khởi động chiến dịch sử dụng drone để phun nước vào không khí nhằm giảm tình trạng khói bụi đang che phủ khắp thủ đô của Thái Lan.

Fan Liên Quân Mobile “phát sốt” với trend mới, Cris Devil Gamer, bé Chanh,Msuong cũng không đứng ngoài cuộc

tinybook tinybook 2 tuần 5 ngày
Fan Liên Quân Mobile “phát sốt” với trend mới, Cris Devil Gamer, bé Chanh,Msuong cũng không đứng ngoài cuộc
Tưởng chừng chủ đề gần đây không gì hot hơn Tết, nhưng với cộng đồng gamer rồi cả các streamer Liên Quân Mobile thì trend đang đứng top bảng chính là…đập bim bim!

Chiếc máy xúc chạy hoàn toàn bằng điện này có cục pin nặng 3,4 tấn, hoạt động 7 tiếng mỗi lần sạc

tinybook tinybook 2 tuần 6 ngày
Chiếc máy xúc chạy hoàn toàn bằng điện này có cục pin nặng 3,4 tấn, hoạt động 7 tiếng mỗi lần sạc
Các phương tiện chạy điện đang ngày càng trở nên đa dạng.

Lì xì Online lan tỏa mạnh mẽ tới nhiều triệu người dùng Việt Nam

tinybook tinybook 2 tuần 6 ngày
Lì xì Online lan tỏa mạnh mẽ tới nhiều triệu người dùng Việt Nam
Ông Nguyễn Bá Diệp – Phó chủ tịch Ví điện tử MoMo khẳng định chắc chắn lì xì online sẽ trở nên phổ biến bởi tiện lợi, an toàn mà vẫn mang đậm tính đặc trưng của Tết cổ truyền.

Phát hiện hóa thạch côn trùng cổ đại bị nhốt bên trong một viên đá mắt mèo

tinybook tinybook 3 tuần 1 giờ
Phát hiện hóa thạch côn trùng cổ đại bị nhốt bên trong một viên đá mắt mèo
Khá bất ngờ khi hóa thạch của một loài côn trùng cổ đại lại được bảo quan bên trong một viên đá opal hay còn gọi là đá mắt mèo vô cùng quý hiếm.

Dùng khoan nước nóng, các nhà khoa học khoan được hố sâu kỷ lục tại Nam Cực: tận 2.152 mét!

tinybook tinybook 3 tuần 2 giờ
Dùng khoan nước nóng, các nhà khoa học khoan được hố sâu kỷ lục tại Nam Cực: tận 2.152 mét!
Không giống như khoan bê tông hay khoan nền đất, khoan băng cần một hệ thống khoan đặc biệt.

Phát hiện siêu khuẩn kháng thuốc tại một trong những nơi nguyên sơ cuối cùng trên Trái đất: chuyện gì đang xảy ra thế?

tinybook tinybook 3 tuần 5 giờ
Phát hiện siêu khuẩn kháng thuốc tại một trong những nơi nguyên sơ cuối cùng trên Trái đất: chuyện gì đang xảy ra thế?
Người ta tìm thấy dấu hiệu của khuẩn kháng thuốc tại những nơi cách rất xa so với xã hội con người. Và tất nhiên, đây là tin chẳng vui chút nào.

Loại khăn giấy xì mũi này có gì đặc biệt mà người bị cúm sẵn sàng bỏ 1,9 triệu ra để mua 1 tờ?

tinybook tinybook 3 tuần 9 giờ
Loại khăn giấy xì mũi này có gì đặc biệt mà người bị cúm sẵn sàng bỏ 1,9 triệu ra để mua 1 tờ?
Liệu bạn có dám bỏ ra 80 USD chỉ để dùng một tờ khăn giấy xì mũi chứa đầy virus của người bị mắc bệnh cảm cúm?

3 Nghi thức thần thánh đón Tết đậm đà chỉ game thủ mới hiểu

tinybook tinybook 3 tuần 9 giờ
3 Nghi thức thần thánh đón Tết đậm đà chỉ game thủ mới hiểu
Tất cả thế giới ra đây mà xem, chỉ vài thao tác đơn giản như đang giỡn là cái Tết đậm đà đã về với bao bản đồ và hàng triệu gamer khắp mọi miền quê.

Tesla nên dè chừng: Porsche Taycan sạc 4 phút đi được 100 km, chủ xe được sạc miễn phí trong 3 năm

tinybook tinybook 3 tuần 10 giờ
Tesla nên dè chừng: Porsche Taycan sạc 4 phút đi được 100 km, chủ xe được sạc miễn phí trong 3 năm
Dự kiến cuối năm nay, chúng ta sẽ được tận mắt chiêm ngưỡng chiếc xe điện Porsche Taycan.

Start-up Nga tính biến bầu trời đêm trở thành biển quảng cáo khổng lồ cho các nhãn hàng

tinybook tinybook 3 tuần 15 giờ
Start-up Nga tính biến bầu trời đêm trở thành biển quảng cáo khổng lồ cho các nhãn hàng
Thử tưởng tượng xem một ngày nào đó bạn nhìn lên Mặt Trăng vào một đêm mùa hè và thấy một bầu trời đầy sao cùng một tấm biển quảng cáo khổng lồ. Đó là hình dung của một start-up Nga trong tương lai không xa.

Nghe về kim tự tháp nhiều rồi, đã có ai được vào hẳn bên trong chưa? Đó thực sự là một trải nghiệm... đáng quên

tinybook tinybook 3 tuần 22 giờ
Nghe về kim tự tháp nhiều rồi, đã có ai được vào hẳn bên trong chưa? Đó thực sự là một trải nghiệm... đáng quên
Nghe về kim tự tháp nhiều rồi, đã có ai được vào hẳn bên trong chưa? Đó thực sự là một trải nghiệm... đáng quên

Khoa học tìm ra cách biến sóng Wi-Fi thành dòng điện, điện thoại tương lai sẽ không cần pin!

tinybook tinybook 3 tuần 1 ngày
Khoa học tìm ra cách biến sóng Wi-Fi thành dòng điện, điện thoại tương lai sẽ không cần pin!
Tưởng tượng đến lúc bạn chỉ cần kết nối Wi-Fi, điện thoại của bạn đã được sạc. Cuộc đời sẽ tuyệt vời và tiện lợi tới mức nào!

Cụ Arthur Ashkin, người giành giải Nobel cao tuổi nhất thế giới đang phát triển công nghệ năng lượng "rẻ như đất" và cực sạch

tinybook tinybook 3 tuần 1 ngày
Cụ Arthur Ashkin, người giành giải Nobel cao tuổi nhất thế giới đang phát triển công nghệ năng lượng "rẻ như đất" và cực sạch
Nhà vật lý học già vẫn chưa muốn ngưng cống hiến.

Elon Musk hãy dè chừng, bức tâm thư gửi đi lúc 1 giờ 20 phút sáng của ông có thể chính là ngày tàn của Tesla

tinybook tinybook 3 tuần 2 ngày
Elon Musk hãy dè chừng, bức tâm thư gửi đi lúc 1 giờ 20 phút sáng của ông có thể chính là ngày tàn của Tesla
Nhà tâm lý học có tiếng bày tỏ lo lắng với tương lai của Tesla.

Sử dụng Heli và bằng một thử nghiệm tuyệt đẹp, các nhà khoa học tiến gần hơn tới trạng thái vật chất siêu rắn

tinybook tinybook 3 tuần 3 ngày
Sử dụng Heli và bằng một thử nghiệm tuyệt đẹp, các nhà khoa học tiến gần hơn tới trạng thái vật chất siêu rắn
“Siêu rắn” – super solid, một trạng thái vật chất có cấu trúc tinh thể của một chất rắn nhưng lại có thể chảy được như chất lỏng

Australia và Austria: Có điều gì liên quan đằng sau hai cái tên gần giống nhau?

tinybook tinybook 3 tuần 3 ngày
Australia và Austria: Có điều gì liên quan đằng sau hai cái tên gần giống nhau?
Áo và Úc trong tiếng Việt thì không sao, nhưng tiếng Anh thì lại rất dễ nhầm lẫn. Vậy có gì liên quan giữa 2 quốc gia này không, khi chúng cách nhau cả chục ngàn cây số.

Biết trước về iPhone và iOS đến hàng năm, vì sao Nokia vẫn sụp đổ? Apple liệu có nối gót Nokia?

tinybook tinybook 3 tuần 4 ngày
Biết trước về iPhone và iOS đến hàng năm, vì sao Nokia vẫn sụp đổ? Apple liệu có nối gót Nokia?
Cho dù biết trước về mối nguy hiểm của iPhone và iOS nhưng tại sao Nokia vẫn chậm chạp đối phó để rồi cuối cùng sụp đổ chỉ sau một thời gian ngắn? Và liệu Apple có đi theo vết xe đổ này?

Nước hoa không chỉ giúp tăng thêm nét quyến rũ, lịch lãm mà còn có thể tăng hiệu suất công việc

tinybook tinybook 3 tuần 4 ngày
Nước hoa không chỉ giúp tăng thêm nét quyến rũ, lịch lãm mà còn có thể tăng hiệu suất công việc
Công ty chuyên xây dựng mô hình làm việc chung Spaces mới đây đã hợp tác với thương hiệu phong cách sống Marie-Stella-Maris tạo ra “Spirit de Travail”, một loại nước hoa có thể khả năng tăng hiệu suất công việc.

Các nhà khoa học chế tạo thành công nhiên liệu lỏng có thể lưu trữ năng lượng Mặt Trời trong vòng 18 năm

tinybook tinybook 3 tuần 4 ngày
Các nhà khoa học chế tạo thành công nhiên liệu lỏng có thể lưu trữ năng lượng Mặt Trời trong vòng 18 năm
Nhiên liệu nhiệt Mặt Trời hứa hẹn sẽ trở thành một loại nhiên liệu mới của tương lai.

Nghiên cứu gây tranh cãi: viên đá cổ nhất Trái Đất đã được lấy về từ Mặt Trăng

tinybook tinybook 3 tuần 4 ngày
Nghiên cứu gây tranh cãi: viên đá cổ nhất Trái Đất đã được lấy về từ Mặt Trăng
Khi hoàn thành báo cáo nghiên cứu, các nhà khoa học biết mình sẽ bị nhiều người trong ngành phản đối.

Bệnh nhân với con mắt siêu hiếm trông như bánh pizza 8 miếng: Minh chứng cho thấy y học đã từng đáng sợ như thế nào

tinybook tinybook 3 tuần 5 ngày
Bệnh nhân với con mắt siêu hiếm trông như bánh pizza 8 miếng: Minh chứng cho thấy y học đã từng đáng sợ như thế nào
Đó là một thủ thuật xưa trong phẫu thuật giác mạc, có thể biến mắt bệnh nhân trông như một viên hồng ngọc nhưng đổi lại là những rủi ro kỳ lạ.

[Video time-lapse] Theo dõi trọn vẹn quy trình sản xuất một chiếc xe điện Tesla Model 3 trong công xưởng như thế nào?

tinybook tinybook 3 tuần 5 ngày
[Video time-lapse] Theo dõi trọn vẹn quy trình sản xuất một chiếc xe điện Tesla Model 3 trong công xưởng như thế nào?
Thông qua đoạn video time-lapse thú vị trong bài viết này, bạn sẽ có cơ hội biết được quy trình tạo ra những chiếc xe điện Tesla Model 3 vô cùng kỳ công.

Trung Quốc bắt đầu cuộc “xuân vận”: Ước tính có 3 tỷ chuyến đi trong vòng 40 ngày tới để về nhà ăn Tết

tinybook tinybook 3 tuần 5 ngày
Trung Quốc bắt đầu cuộc “xuân vận”: Ước tính có 3 tỷ chuyến đi trong vòng 40 ngày tới để về nhà ăn Tết
Lại một mùa xuân vận nữa đến với người dân Trung Quốc và năm nay ước tính sẽ có tới 3 tỷ lượt di chuyển về quê ăn Tết chỉ trong vòng 40 ngày.

Nghiên cứu mới cho thấy bộ não hoạt động mạnh nhất khi chúng ta không làm gì cả, lý giải vì sao những sáng kiến thường xuất hiện trong nhà vệ sinh

tinybook tinybook 3 tuần 6 ngày
Nghiên cứu mới cho thấy bộ não hoạt động mạnh nhất khi chúng ta không làm gì cả, lý giải vì sao những sáng kiến thường xuất hiện trong nhà vệ sinh
Khi không làm gì cả không có nghĩa là bộ não của bạn không có ích.

Nếu bạn thắc mắc cây hiện ra trong mắt chim như thế nào, thì mời bạn xem ảnh

tinybook tinybook 3 tuần 6 ngày
Nếu bạn thắc mắc cây hiện ra trong mắt chim như thế nào, thì mời bạn xem ảnh
"Em trong mắt tôi".

Nghiên cứu mới: thành phần tạo nên sự sống trên Trái Đất tới từ hành tinh khác

tinybook tinybook 3 tuần 6 ngày
Nghiên cứu mới: thành phần tạo nên sự sống trên Trái Đất tới từ hành tinh khác
Không phải sự sống tới từ hành tinh khác, chỉ là các thành phần cấu tạo nên nó thôi nhé!

[Góc mãn nhãn] Ngắm vẻ đẹp đầy kỳ ảo của những con sóng biển khi nhìn từ dưới lòng đại dương

tinybook tinybook 3 tuần 6 ngày
[Góc mãn nhãn] Ngắm vẻ đẹp đầy kỳ ảo của những con sóng biển khi nhìn từ dưới lòng đại dương
Khi nhìn những con sóng cuộn trào với góc nhìn từ dưới lòng biển, chúng ta mới thấy hết được vẻ đẹp thực sự của đại dương ấn tượng đến như thế nào.

Hệ thống laser 100 gigawatt có khả năng "đốt cháy cả một thành phố" sẽ là nguồn năng lượng đưa ta du hành sang hệ sao khác

tinybook tinybook 4 tuần 2 giờ
Hệ thống laser 100 gigawatt có khả năng "đốt cháy cả một thành phố" sẽ là nguồn năng lượng đưa ta du hành sang hệ sao khác
Sức mạnh khủng khiếp của hệ thống laser 100 gigawatt sẽ biến Trái Đất thành một ngọn hải đăng, thắp sáng cả một góc Ngân hà.

Ngày xưa tôi cứ nghĩ 8K là thừa thãi, nhưng giờ mới biết hoá ra TV nhà mình chưa đủ to

tinybook tinybook 4 tuần 3 giờ
Ngày xưa tôi cứ nghĩ 8K là thừa thãi, nhưng giờ mới biết hoá ra TV nhà mình chưa đủ to
Bất cứ ai đang sở hữu TV 4K cũng nghĩ rằng 8K là "mơ ước", rằng nội dung chưa có thì sao mà xem, rằng 8K chẳng khác gì với 4K qua đôi mắt người. Nhưng đó là khi bạn chưa nhìn thấy một chiếc TV 8K đủ lớn thực sự ngoài đời.
tinybook Công Nghệ Thông Tin








Chat