Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo

Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Mèo là mèo, chứ mèo không phải là cái máy tính. Thế mới có câu "mèo lại hoàn mèo" (dù chẳng liên quan gì).

Nhiều chuyên gia xe tự động, trong đó có CEO Elon Musk của Tesla, đưa ra dự đoán rằng chỉ trong vòng chục năm nữa, xe tự động sẽ tràn ngập phố phường. Hiển hiên là nói dễ hơn làm, ta cần một trí thông minh nhân tạo đủ khôn để tránh được vật cản, đưa hành khách ngồi trên nó tới được nơi an toàn. Nhiều thử nghiệm cho thấy ta đang có được một hệ thống thông minh như thế.

Nhưng đáng rơi nước mắt thay, có những vấn đề nan giải vẫn tồn tại.

Tuần vừa qua, một đội ngũ các nhà khoa học tại Đại học Illinois đã tuyên bố rằng rất khó để một bên thứ ba có thể can thiệp, làm sai lệch những hình ảnh mà hệ thống cảm biết môi trường xung quanh của xe tự lái nhận về. Nghiên cứu mới này của họ CÓ đưa ra lời khẳng định rằng thuật toán machine learning là một mạng lưới đáng tin, xe tự lái có thể dựa vào đó để nhận dạng được tốt những vật thể mà nó gặp phải.

Để một hacker có thể tấn công vào khả năng nhận dạng vật thể của xe, họ sẽ phải tấn công vào TOÀN BỘ các nhận dạng hình ảnh trong cơ sở dữ liệu – mọi góc độ, mọi khoảng cách và ở nhiều vận tốc xe khác nhau. Việc này có thể coi là bất khả thi.

TUY NHIÊN, những nhà nghiên cứu của OpenAI – đáng buồn (cười) thay lại là chính tổ chức nghiên cứu AI phi lợi nhuận do Elon Musk hậu thuẫn – lại chỉ ra rằng chính những thuật toán ấy có lỗi của riêng nó. Khi lỗi xuất hiện, thuật toán sẽ nhầm toàn bộ cơ sở dữ liệu hình ảnh cùng một lúc, chứ không chỉ một hình ảnh.

Đây là ví dụ mà họ đưa ra, hệ thống đã nhận nhầm con mèo là một cái máy tính:

Hệ thống AI quá kém, mèo chứ có phải máy tính đâu!

Những cái cột bên trái tượng trưng cho những gì hệ thống trí tuệ nhân tạo nhận dạng hình ảnh mà nó gặp, và bạn có thể thấy cột “Máy tính” cao hơn hẳn – hệ thống đã nhầm. Ở góc nhìn nào, kích cỡ mèo nào thì máy cũng nhận dạng đây là cái máy tính.

Một vấn đề khác nghiêm trọng hơn, có thể được tạo ra dựa vào một phương pháp tối ưu hóa thuật toán có tên dốc xuống hình chiếu – projected gradient descent, đáng lẽ được sử dụng để xác định những lỗi có trong hình ảnh TRƯỚC KHI thuật toán bị lừa. Tuy nhiên, các nhà nghiên cứu tại OpenAI cho thấy rằng phương pháp này có thể tạo ra một lỗi khác: thuật toán phân loại có thể bị làm rối trước khi nó nhập liệu và phân tích hình ảnh. Lỗi này không chỉ ảnh hưởng tới một bước phân tích mà ảnh hưởng tới toàn bộ quá trình thu thập và phân tích dữ liệu.

Hacker vốn được biết tới khả năng ứng biến, sáng tạo đâm ra việc họ có thể tấn công vào hệ thống xe tự lái trong tương lai là hoàn toàn khả thi. Vẫn cần thêm thời gian để hoàn thiện công nghệ xe tự lái nữa, hoặc cần phải có riêng một phần mềm “chống virus” cho xe tự động, trước khi đường phố của ta tràn ngập những chiếc xe có thể tự đưa chủ nhân mình tới nơi an toàn mà không cần lái.

Các bạn có thể đọc nghiên cứu của họ tại đây.

Phát hiện ra ngôi làng cổ đại ở Canada tồn tại trước kim tự tháp ở Ai Cập đến 10 nghìn năm

tinybook tinybook 1 tuần 14 giờ
Khoa Học Công Nghệ
Phát hiện ra ngôi làng cổ đại ở Canada tồn tại trước kim tự tháp ở Ai Cập đến 10 nghìn năm
Ngôi làng có thể thuộc về tổ tiên người Heilsuk, một nhóm cư dân bản địa tại Canada.

Tại sao ếch độc tự liếm bản thân mà không lăn ra chết?

tinybook tinybook 1 tuần 14 giờ
Khoa Học Công Nghệ
Tại sao ếch độc tự liếm bản thân mà không lăn ra chết?
Khó có thể xác định được loài động vật có chất độc nguy hiểm nhất thế giới. Nhưng chắc chắn loài ếch độc phi tiêu vàng sống tại Colombia sẽ là một trong những loài nằm đầu danh sách.

Đây chắc chắn là cách tua nhạc kỳ cục nhất mà bạn có thể tưởng tượng ra

tinybook tinybook 1 tuần 19 giờ
Khoa Học Công Nghệ
Đây chắc chắn là cách tua nhạc kỳ cục nhất mà bạn có thể tưởng tượng ra
Thiết bị kính thông minh này ăn đứt Google Glass rồi.

Người Mỹ sử dụng cách rất hay để hạ nhiệt độ trong những ngày nóng bức: sơn xám toàn bộ mặt đường

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Người Mỹ sử dụng cách rất hay để hạ nhiệt độ trong những ngày nóng bức: sơn xám toàn bộ mặt đường
Loại sơn này sẽ giúp cho đường phố hấp thụ ít nhiệt lượng từ mặt trời hơn, và sẽ giúp cho thành phố thoát khỏi cảnh "nóng như đổ lửa".

Tổng hợp thành công hydrogen từ ánh sáng và chất béo với giá rẻ - Một bước tiến mạnh mẽ cho việc thay thế nhiên liệu hóa thạch

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Tổng hợp thành công hydrogen từ ánh sáng và chất béo với giá rẻ - Một bước tiến mạnh mẽ cho việc thay thế nhiên liệu hóa thạch
Thành công của phương pháp này sẽ giúp tạo ra nhiên liệu hydrongen với giá thành rẻ hơn, đẩy nhanh quá trình thay thế nhiên liệu hóa thạch và tác động mạnh mẽ đến môi trường.

Elon Musk làm video tổng hợp những lần tên lửa triệu đô của mình nổ tan thành mây khói, xem cực kỳ ấn tượng dù hơi... xót của

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Elon Musk làm video tổng hợp những lần tên lửa triệu đô của mình nổ tan thành mây khói, xem cực kỳ ấn tượng dù hơi... xót của
"Thất bại là mẹ thành công".

[Vui] Cô bé Arya trong Game of Thones có thể mở khóa bất kì chiếc iPhone X nào trên đất Westeros

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
[Vui] Cô bé Arya trong Game of Thones có thể mở khóa bất kì chiếc iPhone X nào trên đất Westeros
Một sát thủ có thể đeo lên bất kì khuôn mặt nào chắc chắn sẽ khiến lớp bảo mật của iPhone X vô dụng.

Giáo sư Đại học Stanford tiết lộ 4 bí quyết để "sống sót" nơi công sở khốc liệt và bạn hoàn toàn có thể áp dụng ngay bây giờ

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Giáo sư Đại học Stanford tiết lộ 4 bí quyết để "sống sót" nơi công sở khốc liệt và bạn hoàn toàn có thể áp dụng ngay bây giờ
Những cuộc chiến nơi công sở đã trở nên quá quen thuộc đối với bất kỳ ai đi làm. Vậy làm thế nào để bạn có thể "sống sót" ở những nơi luôn có "chiến tranh" như vậy?

Sử dụng máy tính lượng tử mạnh nhất thế giới, các nhà nghiên cứu tái tạo chính xác được một phân tử và điều này rất quan trọng

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Sử dụng máy tính lượng tử mạnh nhất thế giới, các nhà nghiên cứu tái tạo chính xác được một phân tử và điều này rất quan trọng
Sẽ có ngày máy tính lượng tử vượt mặt máy tính cổ điển, và ngày đó đang tới gần.

Bão đến, các sở thú và thủy cung tại Mỹ đã làm thế nào để bảo vệ những “cư dân” của mình?

tinybook tinybook 1 tuần 13 giờ
Khoa Học Công Nghệ
Bão đến, các sở thú và thủy cung tại Mỹ đã làm thế nào để bảo vệ những “cư dân” của mình?
Khi thảm họa xảy ra, giống như như con người, các loài vật cũng cần nơi trú ẩn và thức ăn dự trữ để tránh bão an toàn.

[Vui] Bán hàng thông minh và sáng tạo như thế này, bảo sao những siêu thị dưới đây luôn đắt khách

tinybook tinybook 1 tuần 13 giờ
Khoa Học Công Nghệ
[Vui] Bán hàng thông minh và sáng tạo như thế này, bảo sao những siêu thị dưới đây luôn đắt khách
Nếu coi bán hàng là nghệ thuật, những siêu thị này là tập hợp của rất nhiều nghệ sỹ. Sản phẩm tốt chỉ là một phần của câu chuyện mua bán, thái độ và cung cách bán hàng mới quan trọng. Bạn sẽ hiểu điều đó sau khi xem xong những bức ảnh này.

Đoạn video timelapse này sẽ cho bạn thấy 1 tháng rong ruổi trên tàu chở hàng tuyệt vời như thế nào

tinybook tinybook 1 tuần 14 giờ
Khoa Học Công Nghệ
Đoạn video timelapse này sẽ cho bạn thấy 1 tháng rong ruổi trên tàu chở hàng tuyệt vời như thế nào
Đây là cơ hội để bạn trải nghiệm cảm giác đi trên tàu chở hàng.

Đường cầu trượt này không dành cho những trái tim yếu đuối

tinybook tinybook 1 tuần 15 giờ
Khoa Học Công Nghệ
Đường cầu trượt này không dành cho những trái tim yếu đuối
Chờ đón bạn ở cuối đường trượt ngắn này là... không gì cả.

Vì sao nói trực giác giúp chúng ta thành thiên tài, nhưng cũng rất đỏng đảnh, phản trắc?

tinybook tinybook 1 tuần 16 giờ
Khoa Học Công Nghệ
Vì sao nói trực giác giúp chúng ta thành thiên tài, nhưng cũng rất đỏng đảnh, phản trắc?
Giá trị của trực giác nằm ở đâu? Chúng ta có thể sử dụng trực giác như thế nào trong quá trình tư duy?

Bài học bán măng trúc cho người Nhật

tinybook tinybook 1 tuần 16 giờ
Khoa Học Công Nghệ
Bài học bán măng trúc cho người Nhật
Thứ người khác không có thì mình có, việc người khác làm được thì mình làm giỏi hơn, thứ người khác làm giỏi thì mình phải làm giỏi và với giá thấp hơn.

Muốn mẫu vật của bạn lung linh hơn khi lên ảnh? Hãy cho chủ thể một chút... nước

tinybook tinybook 1 tuần 19 giờ
Khoa Học Công Nghệ
Muốn mẫu vật của bạn lung linh hơn khi lên ảnh? Hãy cho chủ thể một chút... nước
Nếu đã cố mà những bức ảnh của bạn trông vẫn nhàm chán, hãy thử phun sương hoặc vẩy một ít nước lên chủ thể. Tất nhiên, phương pháp này không dành cho đồ điện hoặc những người mẫu sợ nước.

Vụ nổ đầy màu sắc khi thả rơi đe xuống bình sơn xịt từ độ cao 45m

tinybook tinybook 1 tuần 22 giờ
Khoa Học Công Nghệ
Vụ nổ đầy màu sắc khi thả rơi đe xuống bình sơn xịt từ độ cao 45m
Trông như cầu vồng bị nổ tung vậy, đừng xem thường sự nguy hiểm của đe.

Những CEO ở Thung lũng Silicon đang "hack" cơ thể họ bằng cách nhịn ăn

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Những CEO ở Thung lũng Silicon đang "hack" cơ thể họ bằng cách nhịn ăn
Nó giúp giảm cân, cải thiện tâm trạng và năng suất làm việc, thậm chí chống lão hóa.

Đây là cảnh người ta thử nghiệm hệ thống bọt chống cháy, nhìn bồng bềnh như mây trời, muốn bay thẳng vào ngay

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Đây là cảnh người ta thử nghiệm hệ thống bọt chống cháy, nhìn bồng bềnh như mây trời, muốn bay thẳng vào ngay
Khi không có lửa, bọt chống cháy trông thật đẹp

Đây là chiếc ba lô đựng sách trông giống một quyển sách dành riêng cho mọt sách

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Đây là chiếc ba lô đựng sách trông giống một quyển sách dành riêng cho mọt sách
Đó là cách mà website bán lẻ ThinkGeek biến những khách hàng mọt sách trở thành "Chúa tể của những cuốn sách" (Lord of the Books).

Lần đầu tiên các nhà khoa học nuôi được xương nhân tạo, lại nhờ kỹ thuật nghiên cứu sóng hấp dẫn

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Lần đầu tiên các nhà khoa học nuôi được xương nhân tạo, lại nhờ kỹ thuật nghiên cứu sóng hấp dẫn
Bệnh nhân ghép xương sẽ giảm được đau đớn và nguy cơ nhiễm trùng.

Dùng vài mánh khóe đơn giản để quay video, anh chàng này đang khiến Internet cãi nhau ỏm tỏi

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Dùng vài mánh khóe đơn giản để quay video, anh chàng này đang khiến Internet cãi nhau ỏm tỏi
Đoạn video dài 1 phút tổng hợp các "mánh" đánh lừa thị giác của Kevin Parry sẽ khiến bạn nhăn trán cả ngày mà không hiểu tại sao.

Có thể bạn chưa biết, trên đời này có một loại Coca-Cola hương vị... cafe

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Có thể bạn chưa biết, trên đời này có một loại Coca-Cola hương vị... cafe
Vừa muốn uống Coca mà vừa thèm cafe, đây là loại nước dành cho bạn.

Tại sao bạn luôn thấy khát nước sau khi ăn đồ ngọt?

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Tại sao bạn luôn thấy khát nước sau khi ăn đồ ngọt?
Nếu cơn khát đến sớm hơn 5 phút, đó không phải là do đường.

"18 House" ở Sài Gòn: Chỉ rộng 18m2 nhưng căn nhà này sẽ giúp bạn thay đổi định kiến bấy lâu nay về nhà ống

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
"18 House" ở Sài Gòn: Chỉ rộng 18m2 nhưng căn nhà này sẽ giúp bạn thay đổi định kiến bấy lâu nay về nhà ống
Nhà ống đô thị đôi khi không phải lựa chọn, nó đã trở thành phương án bắt buộc để có thể "sống sót" trên những diện tích đất chật hẹp giữa ngõ hẻm. Khác xa với những định kiến bấy lâu về nhà ống, "18 House" do Khuôn Studio thiết kế sẽ khiến bạn thích thú đến ngỡ ngàng.

[Vui] Bức ảnh anh chàng không chung thuỷ đang hot trên mạng lại chính là một phần nhỏ của câu chuyện kịch tính này đây

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
[Vui] Bức ảnh anh chàng không chung thuỷ đang hot trên mạng lại chính là một phần nhỏ của câu chuyện kịch tính này đây
Đảm bảo hấp dẫn không thua phim đâu các bạn ạ.

Úc: Chuột túi nhiều gấp đôi người, chính quyền huy động người dân ăn thịt Kangaroo

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Úc: Chuột túi nhiều gấp đôi người, chính quyền huy động người dân ăn thịt Kangaroo
Ai mà nghĩ đến có ngày mà biểu tượng nước Úc sẽ biến thành miếng steak hay xúc xích lăn lóc trong bữa ăn sáng của con người?

Bức ảnh chú cá ngựa lôi cây bông ngoáy tai có khả năng nhận giải cao nhất tại Wildlife Photographer of the Year 2017

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Bức ảnh chú cá ngựa lôi cây bông ngoáy tai có khả năng nhận giải cao nhất tại Wildlife Photographer of the Year 2017
Bức ảnh được chụp bởi nhiếp ảnh gia người Mỹ Justin Hofman với cái tên "Sewage surfer" (tạm dịch: Kẻ lang thang trong làn nước ô nhiễm), ghi lại hình ảnh một chú cá ngựa lôi cây bông ngoáy tai dưới biển Indonesia. Đây chỉ là một trong số nhiều bức ảnh dấy lên lo ngại về ô nhiễm môi trường trên toàn thế giới.

Bill Gates tiết lộ hai mối đe dọa lớn nhất với sức khỏe toàn cầu trong 10 năm tới

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Bill Gates tiết lộ hai mối đe dọa lớn nhất với sức khỏe toàn cầu trong 10 năm tới
"Số lượng những ca nhiễm HIV có thể sẽ tăng, thậm chí còn cao hơn đỉnh điểm của nó trước đó”.

Cận cảnh cỗ máy đếm thời gian như vũ trụ thu nhỏ Louis Moinet Space Mystery - chiếc đồng hồ duy nhất chứa đá vũ trụ đích thực

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Cận cảnh cỗ máy đếm thời gian như vũ trụ thu nhỏ Louis Moinet Space Mystery - chiếc đồng hồ duy nhất chứa đá vũ trụ đích thực
Louis Moinet Space Mystery là chiếc đồng hồ duy nhất trên thế giới chứa đá vũ trụ đích thực với amino axit – biểu tượng của sự sống.
tinybook Công Nghệ Thông Tin



Chat