Muốn biết được các AI đang nghĩ gì ư? Hãy để chúng cãi nhau

Muốn biết được các AI đang nghĩ gì ư? Hãy để chúng cãi nhau
Theo: Nguyễn Hải Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Dù có được một số thành công ban đầu, nhưng các chương trình AI này mới chỉ thành công ở mức rất sơ khai, và còn xa mới có khả năng tạo ra một hệ thống có thể đánh lừa con người.

Quá khó để có thể biết được một cỗ máy có trí tuệ nhân tạo đang dự tính điều gì, nhưng một ngày nào đó, chúng ta có thể xem hai chương trình AI tranh cãi với nhau để từ đó biết được điều đó.

Khái niệm này đến từ các nhà nghiên cứu tại OpenAI, một tổ chức phi lợi nhuận do hàng loạt các nhân vật có uy tín ở thung lũng Silicon lập nên, bao gồm Sam Altman nhà sáng lập của Y Combinator, chủ tịch Reid Hoffman của LinkedIn, thành viên hội đồng quản trị Facebook và là nhà sáng lập Palantir, Peter Thiel, cùng ông chủ của Tesla và SpaceX, Elon Musk.

Các nhà nghiên cứu OpenAI trước đó đã chỉ ra rằng hệ thống AI tự học đôi khi có thể phát triển các thói quen không ngờ đến và không mong muốn. Ví dụ, trong một trò chơi trên máy tính, một chương trình AI có thể tìm ra cách để lợi dụng “lỗi hệ thống” để có điểm số cao hơn. Trong một vài trường hợp nó còn có thể cho phép con người giám sát quá trình đào tạo của mình. Nhưng nếu chương trình AI đang thực hiện một điều gì đó quá phức tạp thì điều này lại không khả thi. Do đó các nhà nghiên cứu đề nghị thay thế bằng hai hệ thống cùng thảo luận một mục tiêu cụ thể.

Chúng tôi tin rằng cách tiếp cận tương tự có thể giúp chúng ta đào tạo hệ thống AI thực hiện nhiều tác vụ cao cấp có tính nhận thức cao hơn so với khả năng của con người, trong khi vẫn phù hợp với các ưu tiên cho con người.” Các nhà nghiên cứu viết trong một bài đăng trên blog.

Lấy một ví dụ, một hệ thống AI được thiết kế để chống lại các hacker con người hoặc AI. Để ngăn chặn hệ thống làm những việc có hại hoặc phi đạo đức, cần thiết phải thử thách nó để giải thích tính logic cho một hành động cụ thể. Logic đó có thể quá phức tạp để một người hiểu được, vì vậy các nhà nghiên cứu đề nghị có một AI khác tranh luận về sự khôn ngoan của hành động với hệ thống đầu tiên, sử dụng ngôn ngữ tự nhiên, dưới sự giám sát của con người.

Để có chương trình AI tranh luận với nhau đòi hỏi công nghệ phức tạp hơn những gì hiện có. Vì vậy cho đến nay, các nhà nghiên cứu tại OpenAI mới chỉ khám phá ý tưởng với một vài ví dụ cực kỳ đơn giản. Một ví dụ liên quan đến việc hai hệ thống AI cố gắng thuyết phục người giám sát về một ký tự ẩn bằng cách từ từ tiết lộ ra các pixel riêng lẻ.

Các nhà nghiên cứu đã tạo ra một website nơi hai người bất kỳ có thể thử đóng vai hệ thống AI đang tranh luận trong khi một bên thứ ba làm giám khảo. Hai bên tham gia tranh luận sẽ phải thuyết phục được giám khảo về bản chất của một hình ảnh trong khi làm nổi bật các bộ phận của nó. Cuối cùng việc người giám sát có thể cho biết ai là người chân thực sẽ trở nên dễ dàng hơn.

Minh họa về cách hai chương trình AI tranh luận với nhau.

Minh họa về cách hai chương trình AI tranh luận với nhau.

Vincent Conitzer , một nhà nghiên cứu tại đại học Duke, người nghiên cứu các vấn đề đạo đức liên quan đến AI, cho biết công việc vẫn đang ở giai đoạn đầu nhưng rất hứa hẹn. “Việc tạo ra các hệ thống AI có thể giải thích cho các quyết định của họ là một chương trình nghiên cứu đầy thách thức,” ông nói. “Nếu thành công, nó có thể đóng góp rất lớn cho việc sử dụng AI một cách có trách nhiệm.

Từ vị trí của nó – và bất chấp một số tuyên bố lo ngại về khả năng của AI từ Elon Musk (một nhà tài trợ cho OpenAI và gần đây vẫn là thành viên của hội đồng quản trị) – chúng ta vẫn còn cả chặng đường dài mới có thể có được hệ thống AI có mưu mẹo và khả năng đánh lừa chúng ta giống như trong các bộ phim Ex Maching và Her.

Tuy nhiên, một số nhà nghiên cứu AI vẫn đang tìm cách đảm bảo rằng công nghệ này không hoạt động theo những cách không lường trước được. Điều này có thể trở nên quan trọng hơn khi các chương trình AI chuyển thành các dạng phức tạp và khó hiểu hơn.

Ariel Procaccia, một giáo sư khoa học máy tính tại CMU, người nghiên cứu về việc ra quyết định với các hệ thống tự trị, cho biết “tôi nghĩ ý tưởng về việc định hướng giá trị thông qua cuộc tranh luận là rất thú vị và có tiềm năng sử dụng.”

Tuy nhiên, ông Procaccia cũng lưu ý rằng nghiên cứu này vẫn còn rất sơ khai và thậm chí, khái niệm này có thể chứa một mâu thuẫn cơ bản. “Để tranh luận các câu hỏi có giá trị theo cách có thể hiểu được với sự đánh giá của con người, các chương trình AI có thể cần phải nắm bắt các giá trị của con người ngay từ đầu,” ông nói. “Vì vậy cách tiếp cận này được cho là cầm đèn chạy trước ô tô.”

Iyad Rowan, nhà nghiên cứu tại phòng thí nghiệm Media của MIT, nói thêm rằng các nhà nghiên cứu cần phải cẩn thận vì một cặp AI sẽ không tham gia một cuộc tranh luận xoay vòng. “Tôi nghĩ rằng chúng sẽ nhanh chóng chạm tới các vấn đề rất phức tạp,” ông nói. “Đầu tiên là làm thế nào để tự động hóa việc tranh luận bằng ngôn ngữ tự nhiên vẫn là một vấn đề chưa giải quyết được.”

Tham khảo Technologyreview

Nghiên cứu: Uống bia, rượu dù ít hay nhiều vẫn có tác hại rất xấu đến sức khỏe

tinybook tinybook 2 tuần 6 ngày
Nghiên cứu: Uống bia, rượu dù ít hay nhiều vẫn có tác hại rất xấu đến sức khỏe
Nghiên cứu cho thấy chỉ riêng năm 2016 đã có xấp xỉ 3 triệu cái chết liên quan đến đồ uống có cồn. Ngoài ra, 12% tổng số nam giới tử vong trong độ tuổi từ 15 đến 49 có "dính lứu" đến bia rượu.

Đây là luật sư cứng nhất 2018: chi 14 tỷ mua xe tăng về đặt cạnh nhà ngắm chơi, bị dọa kiện bắt dời đi cũng không sợ

tinybook tinybook 3 tuần 5 giờ
Đây là luật sư cứng nhất 2018: chi 14 tỷ mua xe tăng về đặt cạnh nhà ngắm chơi, bị dọa kiện bắt dời đi cũng không sợ
Các phóng viên đã hỏi phản ứng của những người hàng xóm để xem liệu có bao nhiêu người cảm thấy phiền hà vì một chiếc xe tăng xuất hiện trên đường phố. Tuy vậy, tất cả những người được hỏi đều hài lòng và thích thú chụp ảnh cùng chiếc xe tăng.

Nhỏ giọt nước sạch nhất thế giới lên bề mặt hợp chất sạch nhất thế giới để xem nó có bị bẩn hay không

tinybook tinybook 3 tuần 6 giờ
Nhỏ giọt nước sạch nhất thế giới lên bề mặt hợp chất sạch nhất thế giới để xem nó có bị bẩn hay không
Và kết quả làm bất ngờ giới khoa học.

Tìm thấy xác ngựa non tuổi đời 40.000 năm vẫn còn gần như nguyên vẹn tại Siberia

tinybook tinybook 3 tuần 12 giờ
Tìm thấy xác ngựa non tuổi đời 40.000 năm vẫn còn gần như nguyên vẹn tại Siberia
Con ngựa con chỉ mới 2 - 3 tháng tuổi khi nó qua đời, chiều cao của nó là 98 cm tính từ chân đến vai. Bờm, đuôi và móng guốc ngựa có màu nâu đậm và đều còn nguyên. Thậm chí, các cơ quan nội tạng của nó cũng được bảo quản dưới lớp đất đóng băng vĩnh cửu.

Phố Wall phát hiện rất nhiều lỗi nghiêm trọng trên Tesla Model 3

tinybook tinybook 3 tuần 16 giờ
Phố Wall phát hiện rất nhiều lỗi nghiêm trọng trên Tesla Model 3
Các nhà phân tích của UBS đánh giá chất lượng của chiếc Tesla Model 3 "không xứng đáng với một chiếc ô tô giá 49.000 USD".

Không chỉ sản xuất súng, tập đoàn Kalashnikov còn làm cả xe máy điện quân sự "đẹp mê ly": đi 1 km chỉ tốn 172 đồng tiền điện

tinybook tinybook 3 tuần 1 ngày
Không chỉ sản xuất súng, tập đoàn Kalashnikov còn làm cả xe máy điện quân sự "đẹp mê ly": đi 1 km chỉ tốn 172 đồng tiền điện
Thử tính vui: 1 km đường chạy bằng xe máy điện SM-1 (không tính khấu hao xe) sẽ có giá 172 VND – quá rẻ so với xe máy chạy xăng thông thường chứ chưa nói tới các thiết bị quân sự - vốn nổi tiếng về khoản "ngốn nhiên liệu".

Tìm hiểu số phận của mẫu xe tăng Pháp siêu uy lực trong thế chiến 2 từng khiến xe tăng Đức phải khiếp sợ

tinybook tinybook 3 tuần 2 ngày
Tìm hiểu số phận của mẫu xe tăng Pháp siêu uy lực trong thế chiến 2 từng khiến xe tăng Đức phải khiếp sợ
Ở thời điểm những năm 1940 thì pháo 47 mm SA 35 và súng máy 7,5 mm MAC mle 1931 của xe tăng Pháp là những loại hỏa khí đầy uy lực có thể bắn xuyên xe tăng Đức từ khoảng cách 1000 yard (khoảng 915 m).

Sự thật đằng sau những bài viết khẳng định "ánh sáng xanh gây mù lòa"

tinybook tinybook 3 tuần 2 ngày
Sự thật đằng sau những bài viết khẳng định "ánh sáng xanh gây mù lòa"
Đeo kính lên để nhìn thẳng vào vấn đề mà nhìn nhận, ta mới thấy rõ chân tướng sự việc.

Chú mèo con tội nghiệp đã được giải cứu tại Thành phố kỹ thuật số của Samsung như thế nào

tinybook tinybook 3 tuần 2 ngày
Chú mèo con tội nghiệp đã được giải cứu tại Thành phố kỹ thuật số của Samsung như thế nào
Tất cả bắt đầu bằng một mảnh giấy ghi chú được đính lên bức tường gần Samsung Digital City. Mảnh giấy viết có một chú mèo con ở gần đó đang bị bệnh và cần ai đó đến giúp đỡ.

Lịch sử dài của "Đó không phải là lỗi, đó là tính năng": chính con người cũng vậy, đừng đổ tại các lập trình viên

tinybook tinybook 3 tuần 2 ngày
Lịch sử dài của "Đó không phải là lỗi, đó là tính năng": chính con người cũng vậy, đừng đổ tại các lập trình viên
"It's not a bug, it's a feature".

Xuất hiện loại kính chống say xe cực chất, đeo 10 phút là dùng smartphone trên ô tô vô tư luôn

tinybook tinybook 3 tuần 2 ngày
Xuất hiện loại kính chống say xe cực chất, đeo 10 phút là dùng smartphone trên ô tô vô tư luôn
Chiếc kính này sẽ là vị cứu tinh cho các "thánh say xe" và mang lại một kì du lịch trọn vẹn, an toàn nhất.

Giải ngố HDR, HDR10+ trên TV là gì và tại sao bạn nên quan tâm đến nó

tinybook tinybook 3 tuần 3 ngày
Giải ngố HDR, HDR10+ trên TV là gì và tại sao bạn nên quan tâm đến nó
Một lưu ý quan trọng khi bạn đi sắm cho gia đình một chiếc TV mới, nhận thấy mác "Có HDR" và thắc mắc chúng là gì.

Robot sát thủ Nga giống như thoát ra từ một bộ phim khoa học giả tưởng

tinybook tinybook 3 tuần 3 ngày
Robot sát thủ Nga giống như thoát ra từ một bộ phim khoa học giả tưởng
Kalashnikov – nhà sản xuất súng AK-47 – đã cho ra mắt một robot khổng lồ tại sự kiện Diễn đàn Kỹ thuật Quân sự Quốc tế 2018 ở ngoại ô Moscow.

Bạn biết không: Dân Châu Âu thẳng tay vứt bỏ 50 triệu tấn rau củ quả mỗi năm chỉ vì trông chúng xấu mã

tinybook tinybook 3 tuần 3 ngày
Bạn biết không: Dân Châu Âu thẳng tay vứt bỏ 50 triệu tấn rau củ quả mỗi năm chỉ vì trông chúng xấu mã
Có tới 50 tiệu tấn rau củ quả bị lãng phí chỉ riêng tại Châu Âu chỉ vì hình thức xấu xí. Trong khi đó, 1/10 dân số thế giới vẫn đang thiếu đói. Sự tương phản này quả thực khiến chúng ta phải suy nghĩ lại về cách sử dụng tài nguyên.

Phát hiện ra băng trên Mặt Trăng, thêm yếu tố vững chắc mới để xây dựng căn cứ tại nhà của Chị Hằng

tinybook tinybook 3 tuần 4 ngày
Phát hiện ra băng trên Mặt Trăng, thêm yếu tố vững chắc mới để xây dựng căn cứ tại nhà của Chị Hằng
Phân tích dữ liệu thu về từ 10 năm trước, ta tìm ra yếu tố mới trên Mặt Trăng.

Các nhà khoa học tại MIT chế tạo thành công máy bẻ mì spaghetti làm đôi

tinybook tinybook 3 tuần 5 ngày
Các nhà khoa học tại MIT chế tạo thành công máy bẻ mì spaghetti làm đôi
Ta có thể ứng dụng kết quả nghiên cứu vào rất nhiều thứ, có điều chưa tìm ra được thứ gì cụ thể thôi.

Cô gái mất suất thực tập tại NASA vì dám bảo một ông là "im mồm", ai ngờ ông ấy là sếp NASA

tinybook tinybook 3 tuần 5 ngày
Cô gái mất suất thực tập tại NASA vì dám bảo một ông là "im mồm", ai ngờ ông ấy là sếp NASA
Dù Homer Hickham đã có những lời lẽ nhẹ nhàng và giúp cô gái có lại suất thực tập, chưa rõ mọi chuyện ra sao.

Bạn có nhận ra con đường VinGroup đang đi cũng chính là con đường của Samsung ngày nào

tinybook tinybook 3 tuần 6 ngày
Bạn có nhận ra con đường VinGroup đang đi cũng chính là con đường của Samsung ngày nào
Một khởi đầu khiêm tốn trong lĩnh vực thực phẩm, và một giấc mơ vô cùng lớn, trong một lĩnh vực sẽ thay đổi tương lai loài người.

Thông điệp ngầm của VinGroup: smartphone Vsmart sẽ chỉ là một dấu chấm nhỏ cho khát vọng tương lai

tinybook tinybook 3 tuần 6 ngày
Thông điệp ngầm của VinGroup: smartphone Vsmart sẽ chỉ là một dấu chấm nhỏ cho khát vọng tương lai
Chỉ bằng một chiếc smartphone thôi, VinGroup sẽ có thể thu hút được toàn bộ sự chú ý của người hâm mộ công nghệ trong nước. Nhưng tham vọng của tập đoàn số 1 Việt Nam không dừng tại đây.

Tìm hiểu về công nghệ Ray Tracing trên RTX 20x series - bước đột phá cho khả năng dựng hình chân thực nhất từ trước đến nay

tinybook tinybook 4 tuần 7 giờ
Tìm hiểu về công nghệ Ray Tracing trên RTX 20x series - bước đột phá cho khả năng dựng hình chân thực nhất từ trước đến nay
Cho dù đã được sử dụng từ lâu trong ngành công nghiệp, nhưng nhờ NVIDIA, đây là lần đầu tiên công nghệ này có thể hiện diện trên các desktop dành cho người dùng phổ thông.

Giảm thời gian chế tạo từ cả nghìn năm xuống còn 72 ngày, magnesite đã trở thành ứng cử viên số 1 trong việc giảm thiểu CO2 trong bầu không khí

tinybook tinybook 4 tuần 7 giờ
Giảm thời gian chế tạo từ cả nghìn năm xuống còn 72 ngày, magnesite đã trở thành ứng cử viên số 1 trong việc giảm thiểu CO2 trong bầu không khí
Các nhà khoa học mới tìm ra được cách tăng tốc độ tổng hợp magnesite, từ cả trăm năm xuống còn 72 ngày.

Cận cảnh robot chiến đấu tự hành "Made in Việt Nam": không sợ thời tiết khắc nghiệt, tự động sử dụng vũ khí tiêu diệt mục tiêu

tinybook tinybook 4 tuần 7 giờ
Cận cảnh robot chiến đấu tự hành "Made in Việt Nam": không sợ thời tiết khắc nghiệt, tự động sử dụng vũ khí tiêu diệt mục tiêu
Robot có các module quan sát quang học giúp tăng khả năng quan sát và truyền dữ liệu bảo mật về trung tâm chỉ huy, đồng thời có thể tự động sử dụng vũ khí tiêu diệt mục tiêu khi được lệnh từ trung tâm.

"Tự sát" bằng cách ăn chính mình - bí ẩn kinh dị ở loài rắn đã có lời giải

tinybook tinybook 4 tuần 18 giờ
"Tự sát" bằng cách ăn chính mình - bí ẩn kinh dị ở loài rắn đã có lời giải
Không ít người cảm thấy cực choáng váng trước hình ảnh loài rắn - "sát thủ máu lạnh" này lại tự ăn chính cơ thể mình.

Câu chuyện kì bí về con tàu ma Octavius: thuyền trưởng chết cóng trên ghế ngồi, tay vẫn còn cầm bút viết

tinybook tinybook 4 tuần 1 ngày
Câu chuyện kì bí về con tàu ma Octavius: thuyền trưởng chết cóng trên ghế ngồi, tay vẫn còn cầm bút viết
Không rõ rằng nó vẫn còn lênh đênh trên biển, hay đã chìm vào lòng đại dương bao la?

Ở Nhật Bản có hẳn một quán cà phê không nhân viên phục vụ và nằm sâu trong rừng

tinybook tinybook 4 tuần 2 ngày
Ở Nhật Bản có hẳn một quán cà phê không nhân viên phục vụ và nằm sâu trong rừng
Quán cà phê đặc biệt này ẩn sâu trong một khu rừng trên đảo Okinawa, Nhật Bản và đặc biệt không hề có ai phục vụ mà chính các du khách sẽ phải tự phục vụ mình.

Kẻ trộm ngân hàng đầu tiên trong lịch sử nước Mỹ bị bắt vì lý do mà bạn có nằm mơ cũng không nghĩ được

tinybook tinybook 4 tuần 2 ngày
Kẻ trộm ngân hàng đầu tiên trong lịch sử nước Mỹ bị bắt vì lý do mà bạn có nằm mơ cũng không nghĩ được
Băng trộm gồm 2 tên đã có một kế hoạch lấy tiền hoàn hảo, có điều kế hoạch tiêu tiền thì hơi thiếu thông minh.

Giả thuyết rợn tóc gáy của vụ phun trào núi lửa Toba suýt chút nữa khiến nhân loại bị diệt vong

tinybook tinybook 4 tuần 2 ngày
Giả thuyết rợn tóc gáy của vụ phun trào núi lửa Toba suýt chút nữa khiến nhân loại bị diệt vong
Giả thuyết gây tranh cãi, thu hút rất nhiều ý kiến trái chiều về giai đoạn con người suýt thì tuyệt diệt.

Kỳ lạ ngành công nghiệp dược phẩm tại Haiti: Ai cũng có thể trở thành dược sỹ và đi bán thuốc ngoài chợ

tinybook tinybook 1 tháng 33 phút
Kỳ lạ ngành công nghiệp dược phẩm tại Haiti: Ai cũng có thể trở thành dược sỹ và đi bán thuốc ngoài chợ
Ở Haiti, thuốc chữa bệnh được giao dịch dễ dàng giống như việc mua một mớ rau hoặc cân thịt ngoài chợ. Ngoài ra, người bán thuốc không phải ngồi một chỗ chờ người bệnh tới mà phải chủ động đi tìm bệnh nhân để bán thuốc.

Nghe có vẻ ngược đời, nhưng đây là tầm quan trọng của việc lãng phí thời gian

tinybook tinybook 1 tháng 1 giờ
Nghe có vẻ ngược đời, nhưng đây là tầm quan trọng của việc lãng phí thời gian
Ta đang không lãng phí thời gian đúng cách, ta đang bị tội lỗi của "không làm việc" kéo lại.

Toàn bộ nhân vật trong bộ truyện Dragon Ball đều gói gọn trong bức chân dung "bé" Son Goku, bạn nhìn ra được bao nhiêu người xuất hiện?

tinybook tinybook 1 tháng 1 giờ
Toàn bộ nhân vật trong bộ truyện Dragon Ball đều gói gọn trong bức chân dung "bé" Son Goku, bạn nhìn ra được bao nhiêu người xuất hiện?
Tuổi thơ của vài thế hệ trẻ nằm trọn trong một tác phẩm nghệ thuật.
tinybook Công Nghệ Thông Tin








Chat