Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo

Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Mèo là mèo, chứ mèo không phải là cái máy tính. Thế mới có câu "mèo lại hoàn mèo" (dù chẳng liên quan gì).

Nhiều chuyên gia xe tự động, trong đó có CEO Elon Musk của Tesla, đưa ra dự đoán rằng chỉ trong vòng chục năm nữa, xe tự động sẽ tràn ngập phố phường. Hiển hiên là nói dễ hơn làm, ta cần một trí thông minh nhân tạo đủ khôn để tránh được vật cản, đưa hành khách ngồi trên nó tới được nơi an toàn. Nhiều thử nghiệm cho thấy ta đang có được một hệ thống thông minh như thế.

Nhưng đáng rơi nước mắt thay, có những vấn đề nan giải vẫn tồn tại.

Tuần vừa qua, một đội ngũ các nhà khoa học tại Đại học Illinois đã tuyên bố rằng rất khó để một bên thứ ba có thể can thiệp, làm sai lệch những hình ảnh mà hệ thống cảm biết môi trường xung quanh của xe tự lái nhận về. Nghiên cứu mới này của họ CÓ đưa ra lời khẳng định rằng thuật toán machine learning là một mạng lưới đáng tin, xe tự lái có thể dựa vào đó để nhận dạng được tốt những vật thể mà nó gặp phải.

Để một hacker có thể tấn công vào khả năng nhận dạng vật thể của xe, họ sẽ phải tấn công vào TOÀN BỘ các nhận dạng hình ảnh trong cơ sở dữ liệu – mọi góc độ, mọi khoảng cách và ở nhiều vận tốc xe khác nhau. Việc này có thể coi là bất khả thi.

TUY NHIÊN, những nhà nghiên cứu của OpenAI – đáng buồn (cười) thay lại là chính tổ chức nghiên cứu AI phi lợi nhuận do Elon Musk hậu thuẫn – lại chỉ ra rằng chính những thuật toán ấy có lỗi của riêng nó. Khi lỗi xuất hiện, thuật toán sẽ nhầm toàn bộ cơ sở dữ liệu hình ảnh cùng một lúc, chứ không chỉ một hình ảnh.

Đây là ví dụ mà họ đưa ra, hệ thống đã nhận nhầm con mèo là một cái máy tính:

Hệ thống AI quá kém, mèo chứ có phải máy tính đâu!

Những cái cột bên trái tượng trưng cho những gì hệ thống trí tuệ nhân tạo nhận dạng hình ảnh mà nó gặp, và bạn có thể thấy cột “Máy tính” cao hơn hẳn – hệ thống đã nhầm. Ở góc nhìn nào, kích cỡ mèo nào thì máy cũng nhận dạng đây là cái máy tính.

Một vấn đề khác nghiêm trọng hơn, có thể được tạo ra dựa vào một phương pháp tối ưu hóa thuật toán có tên dốc xuống hình chiếu – projected gradient descent, đáng lẽ được sử dụng để xác định những lỗi có trong hình ảnh TRƯỚC KHI thuật toán bị lừa. Tuy nhiên, các nhà nghiên cứu tại OpenAI cho thấy rằng phương pháp này có thể tạo ra một lỗi khác: thuật toán phân loại có thể bị làm rối trước khi nó nhập liệu và phân tích hình ảnh. Lỗi này không chỉ ảnh hưởng tới một bước phân tích mà ảnh hưởng tới toàn bộ quá trình thu thập và phân tích dữ liệu.

Hacker vốn được biết tới khả năng ứng biến, sáng tạo đâm ra việc họ có thể tấn công vào hệ thống xe tự lái trong tương lai là hoàn toàn khả thi. Vẫn cần thêm thời gian để hoàn thiện công nghệ xe tự lái nữa, hoặc cần phải có riêng một phần mềm “chống virus” cho xe tự động, trước khi đường phố của ta tràn ngập những chiếc xe có thể tự đưa chủ nhân mình tới nơi an toàn mà không cần lái.

Các bạn có thể đọc nghiên cứu của họ tại đây.

Google bí mật theo dõi vị trí của 10 triệu người dùng Android ở Úc và tiêu tốn của họ 580 triệu USD dữ liệu di động mỗi năm

tinybook tinybook 1 tuần 1 ngày
Google bí mật theo dõi vị trí của 10 triệu người dùng Android ở Úc và tiêu tốn của họ 580 triệu USD dữ liệu di động mỗi năm
Người dùng Android có thể bị Google theo dõi vị trí và tiêu tốn khoảng 1GB dữ liệu mỗi tháng, chưa kể thông tin sẽ được chuyển cho các nhà quảng cáo.

Khảo sát mới: 97% người dùng iPhone X thích tai thỏ, trong khi Siri bị ghét nhất

tinybook tinybook 1 tuần 2 ngày
Khảo sát mới: 97% người dùng iPhone X thích tai thỏ, trong khi Siri bị ghét nhất
Tưởng chừng thiết kế tai thỏ trên iPhone X sẽ khiến người dùng khó chịu, nhưng cái tên bị ghét nhất lại là cô trợ lý ảo Siri.

Đang tối mặt chuẩn bị IPO, Xiaomi lại bị Coolpad vác đơn kiện vi phạm bằng sáng chế

tinybook tinybook 1 tuần 2 ngày
Đang tối mặt chuẩn bị IPO, Xiaomi lại bị Coolpad vác đơn kiện vi phạm bằng sáng chế
Vụ tranh chấp này nổ ra vào thời điểm tương đối nhạy cảm khi Xiaomi đang chuẩn bị IPO tại Hồng Kông.

So sánh giữa tính năng điều hướng bằng cử chỉ của Android P và iPhone X

tinybook tinybook 1 tuần 4 ngày
So sánh giữa tính năng điều hướng bằng cử chỉ của Android P và iPhone X
Android P đang đem đến một loạt các tính năng mới đến hệ điều hành của Google, và một trong những cập nhật mới nhất là hệ thống giao diện dựa trên cử chỉ người dùng. Hệ thống này đã khiến nhiều người ngỡ ngàng vì nó khá giống với tính năng điều khiển bằng cử chỉ mà Apple đã giới thiệu trên iPhone X vào năm ngoái.

[Google I/O 2018] Video cho thấy Android P copy y nguyên tính năng điều hướng bằng cử chỉ của iPhone X

tinybook tinybook 1 tuần 6 ngày
[Google I/O 2018] Video cho thấy Android P copy y nguyên tính năng điều hướng bằng cử chỉ của iPhone X
Google đã hé lộ một số tính năng mới trong phiên bản kế tiếp của Android tại hội nghị nhà phát triển của mình. Tuy nhiên, có một tính năng trông quen thuộc đến đáng ngờ.

[Microsoft Build 2018] Lần đầu tiên, Microsoft trình diễn màn kết hợp giữa hai trợ lý ảo Cortana và Alexa

tinybook tinybook 2 tuần 13 giờ
[Microsoft Build 2018] Lần đầu tiên, Microsoft trình diễn màn kết hợp giữa hai trợ lý ảo Cortana và Alexa
Microsoft lần đầu công bố việc tích hợp Cortana với Alexa vào năm ngoái, và hôm nay tại Hội nghị BUILD, công ty đã cập nhật tình hình liên quan vấn đề này.

Các nhà khoa học phân tích thành công con hươu hai đầu, hai tim, hai bộ ruột nhưng chỉ có một hậu môn

tinybook tinybook 1 tuần 1 ngày
Các nhà khoa học phân tích thành công con hươu hai đầu, hai tim, hai bộ ruột nhưng chỉ có một hậu môn
Được phát hiện ngay khi mời bỏ mạng không lâu, con hươu đuôi trắng được bảo quản trong điều kiện gần như hoàn hảo.

Công nghệ dùng Drone trồng cây, có thể trồng được 100.000 cây chỉ trong 1 ngày

tinybook tinybook 1 tuần 1 ngày
Công nghệ dùng Drone trồng cây, có thể trồng được 100.000 cây chỉ trong 1 ngày
Công nghệ mới này được hi vọng sẽ giúp phủ xanh các quả đồi trọc bởi một Drone có thể trồng được tới 100.000 cây trong 1 ngày.

Drone trực thăng nhỏ gọn của NASA sẽ bay trên bầu trời Sao Hỏa

tinybook tinybook 1 tuần 1 ngày
Drone trực thăng nhỏ gọn của NASA sẽ bay trên bầu trời Sao Hỏa
Sau khi đưa nhiều chiếc xe bốn bánh vượt địa hình lên thám hiểm bề mặt Sao Hỏa, NASA quyết định đã đến lúc quan sát từ trên trời.

Các đại gia Bitcoin giấu gia tài của họ trong các kho chứa dưới lòng đất, nhưng bạn đừng nên học theo

tinybook tinybook 1 tuần 1 ngày
Các đại gia Bitcoin giấu gia tài của họ trong các kho chứa dưới lòng đất, nhưng bạn đừng nên học theo
Dịch vụ kho lưu trữ lạnh Xapo được đồn đoán là nơi chứa hơn 10 tỷ USD Bitcoin.

Câu chuyện nổi da gà về William Rankin, Trung Tá Không lực Hoa Kỳ đã "cưỡi" lên sấm sét để đáp đất an toàn trong một vụ tai nạn máy bay

tinybook tinybook 1 tuần 1 ngày
Câu chuyện nổi da gà về William Rankin, Trung Tá Không lực Hoa Kỳ đã "cưỡi" lên sấm sét để đáp đất an toàn trong một vụ tai nạn máy bay
Câu chuyện về William Rankin sẽ trường tồn với thời gian!

Có một bãi rác rộng bằng 480 lần Hà Nội ngoài khơi Thái Bình Dương, và một chàng trai chuẩn bị dọn sạch nó

tinybook tinybook 1 tuần 1 ngày
Có một bãi rác rộng bằng 480 lần Hà Nội ngoài khơi Thái Bình Dương, và một chàng trai chuẩn bị dọn sạch nó
Ước mơ của Boyan Slat thể hiện khả năng của cả một thế hệ trẻ, thế hệ sẽ thay đổi thế giới này.

Giải ngố về công nghệ 5G - thứ mà các nhà mạng trên thế giới đang đua nhau phát triển

tinybook tinybook 1 tuần 1 ngày
Giải ngố về công nghệ 5G - thứ mà các nhà mạng trên thế giới đang đua nhau phát triển
5G nhanh hơn 4G ra sao, và sẽ thay đổi thế giới kết nối của chúng ta như thế nào? Tại sao các ông lớn trên thế giới như Intel, Qualcomm hay Apple lại muốn dẫn đầu cuộc đua thiết bị 5G như thế?

Những điểm tương đồng đến kì lạ giữa Thanos và Voldemort, hai kẻ ác của hai Vũ trụ giả tưởng khác nhau

tinybook tinybook 1 tuần 1 ngày
Những điểm tương đồng đến kì lạ giữa Thanos và Voldemort, hai kẻ ác của hai Vũ trụ giả tưởng khác nhau
Hai kẻ ác đều tìm kiếm một sức mạnh vô song, bước vào chuyến hành trình dài và gian nan để có được nó.

Năm 1983, nhân loại đã đứng sát bên bờ vực chiến tranh hạt nhân, nhưng người đàn ông quyết đoán này đã ngăn nó lại

tinybook tinybook 1 tuần 2 ngày
Năm 1983, nhân loại đã đứng sát bên bờ vực chiến tranh hạt nhân, nhưng người đàn ông quyết đoán này đã ngăn nó lại
Quyết định của ông Petrov được đưa ra khi toàn thế giới đang căng như dây đàn dưới sức nặng của Chiến tranh Lạnh.

Jack Ma, người giàu nhất Trung Quốc, từng vui hơn nhiều khi chưa thành tỷ phú

tinybook tinybook 1 tuần 2 ngày
Jack Ma, người giàu nhất Trung Quốc, từng vui hơn nhiều khi chưa thành tỷ phú
Jack Ma, nhà sáng lập và chủ tịch của Alibaba, trở thành người giàu nhất Trung Quốc sau khi Alibaba IPO thành công với số vốn kỉ lục 25 tỷ USD hồi tháng 9 năm ngoái.

Ngắm ý tưởng khách sạn có thể bồng bềnh trên những con sóng và dùng điện từ thủy triều

tinybook tinybook 1 tuần 2 ngày
Ngắm ý tưởng khách sạn có thể bồng bềnh trên những con sóng và dùng điện từ thủy triều
Cảm giác nằm thư giãn trong một khách sạn nổi, ngắm những con sóng bập bồng vỗ vào hay được quan sát toàn bộ hệ sinh thái dưới biển khơi quả thực sẽ đem tới một trải nghiệm thú vị chưa từng có.

Startup Đan Mạch phát minh ra quần lót mặc nhiều tuần không cần giặt

tinybook tinybook 1 tuần 2 ngày
Startup Đan Mạch phát minh ra quần lót mặc nhiều tuần không cần giặt
Bạn đọc chính xác đấy - quần lót có thể mặc nhiều tuần mà chẳng cần giặt. Nhưng mục đích của sản phẩm này lại không phải dành cho các bạn trẻ lười nhác đâu!

Lõi Quỷ - lõi phóng xạ hạt nhân đã hại chết hai nhà khoa học

tinybook tinybook 1 tuần 2 ngày
Lõi Quỷ - lõi phóng xạ hạt nhân đã hại chết hai nhà khoa học
Một quả bom chết người dưới hình hài một khối cầu vô hại.

Loại thiết bị cấy võng mạc mỏng hơn 100 lần neuron thần kinh có tiềm năng xóa bỏ bệnh mù lòa

tinybook tinybook 1 tuần 2 ngày
Loại thiết bị cấy võng mạc mỏng hơn 100 lần neuron thần kinh có tiềm năng xóa bỏ bệnh mù lòa
Làm từ vàng và mực hữu cơ, chúng được kỳ vọng là sẽ phục hồi lại thị lực trở về bình thường hoàn toàn

Đây là những lý do tại sao chúng ta nên tin rằng mình đang sống trong hệ thống Đa vũ trụ

tinybook tinybook 1 tuần 3 ngày
Đây là những lý do tại sao chúng ta nên tin rằng mình đang sống trong hệ thống Đa vũ trụ
Vì dường như chỉ có học thuyết này mới có thể giải thích cho sự vô tận của vũ trụ.

Hiểu đúng (để bớt sợ) về màn trình diễn giọng nói "y như người thật" của Google Assistant

tinybook tinybook 1 tuần 3 ngày
Hiểu đúng (để bớt sợ) về màn trình diễn giọng nói "y như người thật" của Google Assistant
Google Assistant đã có thể nói chuyện như người thật. Khán giả trong sân khấu Google Build thì vỗ tay nồng nhiệt, báo giới thì lên tiếng e ngại. Liệu kịch bản Kẻ Hủy Diệt đã đến gần?

Bác sĩ thú y hàng đầu chỉ cho bạn cách ghìm mèo cho an toàn và cách bế mèo đi chơi cho hiệu quả

tinybook tinybook 1 tuần 3 ngày
Bác sĩ thú y hàng đầu chỉ cho bạn cách ghìm mèo cho an toàn và cách bế mèo đi chơi cho hiệu quả
Những kiến thức mà một "sen" cần phải có.

Trung Quốc sắp trình diễn một trận mưa nhân tạo lớn chưa từng có trên cao nguyên Tây Tạng

tinybook tinybook 1 tuần 3 ngày
Trung Quốc sắp trình diễn một trận mưa nhân tạo lớn chưa từng có trên cao nguyên Tây Tạng
Trung Quốc đã hoàn thành hệ thống tạo mưa lớn nhất có tên Sky River. Dự án được kỳ vọng sẽ khắc phục tình trạng thiếu nước và mang lại lượng nước tích trữ đủ lớn cho một vùng dân cư.

Xe bưu phẩm chạy điện mới của Bưu chính Mỹ như bước ra từ phim hoạt hình Pixar

tinybook tinybook 1 tuần 3 ngày
Xe bưu phẩm chạy điện mới của Bưu chính Mỹ như bước ra từ phim hoạt hình Pixar
Bưu chính Mỹ (UPS) chưa bao giờ giấu diếm ý định nâng cấp đội xe bưu phẩm của họ lên các mẫu thân thiện với môi trường. Và vài tháng trước, họ đã đặt mua đến 125 chiếc xe tải chạy điện Tesla Semi - đơn hàng xe tải lớn nhất mà Tesla từng nhận được.

Mãn nhãn với màn nhảy múa của những giọt sơn đầy màu sắc dưới góc nhìn quay chậm

tinybook tinybook 1 tuần 3 ngày
Mãn nhãn với màn nhảy múa của những giọt sơn đầy màu sắc dưới góc nhìn quay chậm
Khác với những bức ảnh chụp phẩm màu hoặc bột sơn bắn tung tóe do lực nảy của màng loa, đoạn video slow-motion quay chậm cảnh những giọt sơn bắn lên khiến người xem vô cùng mãn nhãn và thích thú.

Nếu bạn dự định có con, đừng để vợ mình ăn đồ ăn nhanh và tăng cường ăn rau quả tươi

tinybook tinybook 1 tuần 3 ngày
Nếu bạn dự định có con, đừng để vợ mình ăn đồ ăn nhanh và tăng cường ăn rau quả tươi
Các nhà khoa học thấy rằng, việc sử dụng quá nhiều đồ ăn nhanh trong chế độ ăn hàng ngày sẽ làm gia tăng nguy cơ vô sinh lên gấp 2 lần đối với các phụ nữ đang trong độ tuổi sinh đẻ. Thêm vào đó, việc không ăn đủ hoa quả cho thấy sự liên quan tới việc gia tăng nguy cơ vô sinh lên tới 50%.

Với Android P, Google muốn người dùng hạn chế dùng điện thoại hơn nữa

tinybook tinybook 1 tuần 4 ngày
Với Android P, Google muốn người dùng hạn chế dùng điện thoại hơn nữa
Việc thừa nhận và tìm cách giải quyết vấn đề nghiện Smartphone của các nhà sản xuất cũng đồng nghĩa với việc chấp nhận đương đầu với một nghịch lý: Vừa phải tìm cách làm cho thiết bị của mình hấp dẫn trong mắt người dùng hơn so với đối thủ, nhưng cũng vừa phải tìm cách để làm nó "kém hấp dẫn" để người dung không sử dụng thiết bị quá nhiều.

Bức tượng cổ đại cao 5 mét làm giới khoa học bất ngờ do có tuổi thọ 11.600 năm, gấp đôi tuổi thọ Kim tự tháp Ai Cập

tinybook tinybook 1 tuần 4 ngày
Bức tượng cổ đại cao 5 mét làm giới khoa học bất ngờ do có tuổi thọ 11.600 năm, gấp đôi tuổi thọ Kim tự tháp Ai Cập
Rất có thể nó là sản phẩm của một nền văn hóa chưa bao giờ được khám phá.

Các nhà khoa học thành công trong việc dạy nhện nhảy bằng 4 chân

tinybook tinybook 1 tuần 4 ngày
Các nhà khoa học thành công trong việc dạy nhện nhảy bằng 4 chân
Chứ không phải là để tạo một đội quân nhện đâu nhé, bạn đừng lo.
tinybook Công Nghệ Thông Tin








Chat