Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo

Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Mèo là mèo, chứ mèo không phải là cái máy tính. Thế mới có câu "mèo lại hoàn mèo" (dù chẳng liên quan gì).

Nhiều chuyên gia xe tự động, trong đó có CEO Elon Musk của Tesla, đưa ra dự đoán rằng chỉ trong vòng chục năm nữa, xe tự động sẽ tràn ngập phố phường. Hiển hiên là nói dễ hơn làm, ta cần một trí thông minh nhân tạo đủ khôn để tránh được vật cản, đưa hành khách ngồi trên nó tới được nơi an toàn. Nhiều thử nghiệm cho thấy ta đang có được một hệ thống thông minh như thế.

Nhưng đáng rơi nước mắt thay, có những vấn đề nan giải vẫn tồn tại.

Tuần vừa qua, một đội ngũ các nhà khoa học tại Đại học Illinois đã tuyên bố rằng rất khó để một bên thứ ba có thể can thiệp, làm sai lệch những hình ảnh mà hệ thống cảm biết môi trường xung quanh của xe tự lái nhận về. Nghiên cứu mới này của họ CÓ đưa ra lời khẳng định rằng thuật toán machine learning là một mạng lưới đáng tin, xe tự lái có thể dựa vào đó để nhận dạng được tốt những vật thể mà nó gặp phải.

Để một hacker có thể tấn công vào khả năng nhận dạng vật thể của xe, họ sẽ phải tấn công vào TOÀN BỘ các nhận dạng hình ảnh trong cơ sở dữ liệu – mọi góc độ, mọi khoảng cách và ở nhiều vận tốc xe khác nhau. Việc này có thể coi là bất khả thi.

TUY NHIÊN, những nhà nghiên cứu của OpenAI – đáng buồn (cười) thay lại là chính tổ chức nghiên cứu AI phi lợi nhuận do Elon Musk hậu thuẫn – lại chỉ ra rằng chính những thuật toán ấy có lỗi của riêng nó. Khi lỗi xuất hiện, thuật toán sẽ nhầm toàn bộ cơ sở dữ liệu hình ảnh cùng một lúc, chứ không chỉ một hình ảnh.

Đây là ví dụ mà họ đưa ra, hệ thống đã nhận nhầm con mèo là một cái máy tính:

Hệ thống AI quá kém, mèo chứ có phải máy tính đâu!

Những cái cột bên trái tượng trưng cho những gì hệ thống trí tuệ nhân tạo nhận dạng hình ảnh mà nó gặp, và bạn có thể thấy cột “Máy tính” cao hơn hẳn – hệ thống đã nhầm. Ở góc nhìn nào, kích cỡ mèo nào thì máy cũng nhận dạng đây là cái máy tính.

Một vấn đề khác nghiêm trọng hơn, có thể được tạo ra dựa vào một phương pháp tối ưu hóa thuật toán có tên dốc xuống hình chiếu – projected gradient descent, đáng lẽ được sử dụng để xác định những lỗi có trong hình ảnh TRƯỚC KHI thuật toán bị lừa. Tuy nhiên, các nhà nghiên cứu tại OpenAI cho thấy rằng phương pháp này có thể tạo ra một lỗi khác: thuật toán phân loại có thể bị làm rối trước khi nó nhập liệu và phân tích hình ảnh. Lỗi này không chỉ ảnh hưởng tới một bước phân tích mà ảnh hưởng tới toàn bộ quá trình thu thập và phân tích dữ liệu.

Hacker vốn được biết tới khả năng ứng biến, sáng tạo đâm ra việc họ có thể tấn công vào hệ thống xe tự lái trong tương lai là hoàn toàn khả thi. Vẫn cần thêm thời gian để hoàn thiện công nghệ xe tự lái nữa, hoặc cần phải có riêng một phần mềm “chống virus” cho xe tự động, trước khi đường phố của ta tràn ngập những chiếc xe có thể tự đưa chủ nhân mình tới nơi an toàn mà không cần lái.

Các bạn có thể đọc nghiên cứu của họ tại đây.

Quảng cáo in mới nhất của IKEA: Hãy tè lên để được giảm giá!

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Quảng cáo in mới nhất của IKEA: Hãy tè lên để được giảm giá!
Nghe có vẻ thô thiển nhưng quảng cáo in mới nhất của IKEA rất thú vị. Với công nghệ tương tự như que thử thai, nước tiểu sẽ giúp giá giảm đặc biệt cho sản phẩm cũi trẻ em hiện lên.

240.000 yêu cầu mở tài khoản mới được gửi lên sàn giao dịch tiền số lớn nhất thế giới chỉ trong 1 giờ

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
240.000 yêu cầu mở tài khoản mới được gửi lên sàn giao dịch tiền số lớn nhất thế giới chỉ trong 1 giờ
Sàn giao dịch tiền số lớn nhất thế giới vẫn không ngừng lớn lên.

Chỉ bán rau, start-up Trung Quốc được định giá 2,8 tỷ USD

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Chỉ bán rau, start-up Trung Quốc được định giá 2,8 tỷ USD
Đợt gọi vốn của Meicai một lần nữa cho thấy mức định giá "khủng" mà các start-up Trung Quốc có thể đạt được...

Ripple tăng 32% chỉ trong 1 tiếng nhờ thông tin bắt tay với công ty chuyển tiền xuyên quốc gia MoneyGram

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Ripple tăng 32% chỉ trong 1 tiếng nhờ thông tin bắt tay với công ty chuyển tiền xuyên quốc gia MoneyGram
MoneyGram sẽ sử dụng thí điểm đồng tiền Ripple để chuyển tiền xuyên quốc gia. Các giao dịch sẽ diễn ra chỉ trong 2-3 giây, nhanh như cách thông tin lan tỏa.

Động lực kiếm tiền của CEO DesignBold: Một cô sinh viên nhà giàu đi xe Dream, ngày nào cũng chờ tôi đi xe đạp trước cổng trường Ngoại thương!

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Động lực kiếm tiền của CEO DesignBold: Một cô sinh viên nhà giàu đi xe Dream, ngày nào cũng chờ tôi đi xe đạp trước cổng trường Ngoại thương!
Trong suốt 2,5 năm đầu đại học, có một cô bạn cùng lớp nhà rất giàu, đi xe Dream, thường đợi anh Hùng Đinh trước cổng trường Đại học Ngoại thương. Nhưng bên cạnh cảm giác vui vui, có một thứ cảm giác khác len lỏi trong anh – Tủi thân. "Mình hay nói đùa với anh em rằng: Giàu chưa chắc đã sang, nhưng nghèo chắc chắn sẽ hèn", CEO DesignBold tâm sự.

Facebook thực hiện thay đổi lớn trên News Feed, giảm tin tức, các nội dung của doanh nghiệp và nhãn hàng, tăng các bài viết của bạn bè

tinybook tinybook 1 tuần 1 ngày
Khoa Học Công Nghệ
Facebook thực hiện thay đổi lớn trên News Feed, giảm tin tức, các nội dung của doanh nghiệp và nhãn hàng, tăng các bài viết của bạn bè
Các nội dung trên News Feed sẽ thay đổi, với mục đích giúp mọi người tương tác với bạn bè và người thân của mình nhiều hơn.

[CES 2018] Công ty Philips trình làng hàng loạt thiết bị cao cấp, đẩy mạnh công nghệ trong lĩnh vực y tế

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
[CES 2018] Công ty Philips trình làng hàng loạt thiết bị cao cấp, đẩy mạnh công nghệ trong lĩnh vực y tế
Từ chăm sóc da mặt, răng miệng cho đến cải thiện giấc ngủ, các thiết bị mà Philips mang đến CES 2018 thực sự đã nâng công nghệ y tế lên một tầm cao mới.

[CẬP NHẬT] Apple cho phép hạ cấp iOS trên iPhone 5 và một số dòng iPad, khóa iPhone 6 trở lên ở phiên bản 11.2

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
[CẬP NHẬT] Apple cho phép hạ cấp iOS trên iPhone 5 và một số dòng iPad, khóa iPhone 6 trở lên ở phiên bản 11.2
iPhone 6 và 7 không thể hạ xuống iOS 10 như vài giờ trước đó.

Đài Loan: Chồng quyết định ly hôn vì vợ quá bẩn, cả năm mới tắm 1 lần

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Đài Loan: Chồng quyết định ly hôn vì vợ quá bẩn, cả năm mới tắm 1 lần
Bạn đang gặp vấn đề với quan hệ tình cảm? Hãy cảm thấy may mắn vì bạn không rơi vào hoàn cảnh "dở khóc dở cười" của người đàn ông Đài Loan trong câu chuyện dưới đây.

Ngôi trường của cậu bé tóc đóng băng vẫn miệt mài đi học nhận được khoản quyên góp 100.000 tệ để mua quần áo ấm cho học sinh

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Ngôi trường của cậu bé tóc đóng băng vẫn miệt mài đi học nhận được khoản quyên góp 100.000 tệ để mua quần áo ấm cho học sinh
Chỉ một tấm ảnh đã phần nào thay đổi cuộc sống của những học sinh nghèo khó tại tỉnh Vân Nam, Trung Quốc.

Nvidia khẳng định chip đồ họa của hãng không bị ảnh hưởng bởi hai lỗ hổng bảo mật Spectre và Meltdown

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Nvidia khẳng định chip đồ họa của hãng không bị ảnh hưởng bởi hai lỗ hổng bảo mật Spectre và Meltdown
Tuy nhiên, hãng vẫn quyết định tung ra bản cập nhật phần mềm cho các dòng sản phẩm của mình nhằm "phòng bệnh hơn chữa bệnh".

Trung Quốc: Người dân hoang mang vì ngã tư này có tới... 37 cột đèn giao thông

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Trung Quốc: Người dân hoang mang vì ngã tư này có tới... 37 cột đèn giao thông
Không chỉ nổi tiếng vì nhiều món ăn truyền thống ngon miệng, Tứ Xuyên nay còn được cả thế giới biết đến nhờ... cột đèn giao thông.

[CES 2018] Smart TV 2018 của Samsung là sản phẩm TV đầu tiên trên thế giới được chứng nhận bảo mật nâng cao

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
[CES 2018] Smart TV 2018 của Samsung là sản phẩm TV đầu tiên trên thế giới được chứng nhận bảo mật nâng cao
Khả năng bảo mật trên Smart TV Samsung với công nghệ Samsung Knox được cấp chứng nhận Tiêu chí chung đánh giá an toàn công nghệ thông tin và Tiêu chuẩn bảo mật dữ liệu thẻ thanh toán.

Sau Thụy Sĩ, cửa hàng Apple Store tại Tây Ban Nha tiếp tục gặp phải sự cố cháy nổ pin iPhone

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Sau Thụy Sĩ, cửa hàng Apple Store tại Tây Ban Nha tiếp tục gặp phải sự cố cháy nổ pin iPhone
Có thể nói Apple đã khởi đầu năm 2018 không mấy suôn sẻ với hai vụ việc cháy pin diễn ra trong hai ngày liên tiếp.

Hacker của FBI gọi Apple là "thiên tài xấu xa", do ngày càng khiến cho việc giải mã những chiếc iPhone trở nên khó khăn

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Hacker của FBI gọi Apple là "thiên tài xấu xa", do ngày càng khiến cho việc giải mã những chiếc iPhone trở nên khó khăn
"Apple rất giỏi trong những việc chống lại quá trình điều tra của FBI".

Hàng trăm tài xế GrabBike ở Sài Gòn tắt ứng dụng, kéo đến trụ sở công ty để phản đối việc tăng chiết khấu

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Hàng trăm tài xế GrabBike ở Sài Gòn tắt ứng dụng, kéo đến trụ sở công ty để phản đối việc tăng chiết khấu
Hàng trăm tài xế GrabBike đã có mặt tại văn phòng của công ty ở siêu thị Big C Miền Đông, quận 10 để tổ chức đình công, phản đối việc tăng chiết khấu mới khiến họ bị giảm "chén cơm".

Hãng máy ảnh Kodak phát hành đồng tiền số Kodakcoin, cổ phiếu đang chết lập tức hồi sinh tăng 253%

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Hãng máy ảnh Kodak phát hành đồng tiền số Kodakcoin, cổ phiếu đang chết lập tức hồi sinh tăng 253%
Nhiều năm gần đây, cổ phiếu của Kodak gần như chết lâm sàng bởi chẳng có mấy ai giao dịch cổ phiếu của hãng máy ảnh lâu đời này.

[CES 2018] Đây là cách các thương hiệu đáp lại sự cố mất điện hàng loạt vừa xảy ra ở CES 2018

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
[CES 2018] Đây là cách các thương hiệu đáp lại sự cố mất điện hàng loạt vừa xảy ra ở CES 2018
Không ngờ sự cố mất điện lại tạo ra cơ hội quảng cáo sản phẩm cho các "ông lớn" công nghệ.

Bỏ yêu cầu Facebook, Google... đặt máy chủ tại Việt Nam

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Bỏ yêu cầu Facebook, Google... đặt máy chủ tại Việt Nam
Dự thảo Luật An ninh mạng mới nhất đã lược bỏ quy định "đặt máy chủ quản lý dữ liệu người sử dụng Việt Nam trên lãnh thổ Việt Nam"...

Grab xài chính sách mới, tài xế phản ứng gay gắt

tinybook tinybook 1 tuần 2 ngày
Khoa Học Công Nghệ
Grab xài chính sách mới, tài xế phản ứng gay gắt
Ngày 10-1, nhiều tài xế GrabBike đã đến văn phòng của Công ty TNHH Grab Taxi Việt Nam (Grab Việt Nam) tại siêu thị Big C Miền Đông (quận 10, TP HCM) để phản đối.

Microsoft xác nhận tiếp tục chấp nhận thanh toán bằng bitcoin, chỉ hai ngày sau khi loại bỏ đồng tiền mã hóa này

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Microsoft xác nhận tiếp tục chấp nhận thanh toán bằng bitcoin, chỉ hai ngày sau khi loại bỏ đồng tiền mã hóa này
Trước đó, hãng công nghệ lừng danh này đã quyết định "tẩy chay" bitcoin vì quá thiếu ổn định.

Sếp ngân hàng quyền lực nhất phố Wall hối hận vì đã gọi bitcoin là trò lừa đảo

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Sếp ngân hàng quyền lực nhất phố Wall hối hận vì đã gọi bitcoin là trò lừa đảo
Dù đã giảm giá mạnh ngay sau phát ngôn hồi tháng 9 của Dimon, kể từ đó đến nay giá bitcoin đã tăng hơn gấp 3 lần.

Seattle - "Thỏi nam châm" hút những người đã quá mệt mỏi với mức giá cả đắt đỏ ở thung lũng Silicon

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Seattle - "Thỏi nam châm" hút những người đã quá mệt mỏi với mức giá cả đắt đỏ ở thung lũng Silicon
Trong khi hầu hết các trung tâm công nghệ trên thế giới đều muốn trở thành một Thung lũng Silicon thứ hai, thì Seattle, một trung tâm công nghệ nằm ở bờ tây nước Mỹ, lại không hề muốn như vậy.

Startup tuyển dụng những nhân sự đầu tiên thế nào? Chấp nhận người kém trả lương thấp, hay tìm người tài hưởng lương cao?

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Startup tuyển dụng những nhân sự đầu tiên thế nào? Chấp nhận người kém trả lương thấp, hay tìm người tài hưởng lương cao?
Danh tiếng chưa có, ngân sách hạn hẹp, làm thế nào để một startup non trẻ có thể tìm được những nhân sự chất lượng đầu tiên? Chính sách, đãi ngộ, lương thưởng, đâu sẽ yếu tố giúp họ tìm được người tài?

Sau rất nhiều năm, cuối cùng chúng ta đã có thể ấn nút "chặn" Mark Zuckerberg trên Facebook

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Sau rất nhiều năm, cuối cùng chúng ta đã có thể ấn nút "chặn" Mark Zuckerberg trên Facebook
Quyền miễn "chặn" của Mark Zuckerberg đã hết... Từ nay, bạn hoàn toàn có thể block CEO này, cũng như vợ của ông trên Facebook bất kì lúc nào.

Xu hướng mua sắm trên eBay trong năm 2017 được thể hiện qua những con số ấn tượng

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Xu hướng mua sắm trên eBay trong năm 2017 được thể hiện qua những con số ấn tượng
Mới đây, eBay đã công bố báo cáo về bán lẻ trong năm 2017 với những con số ấn tượng. Mô tả chi tiết các khuynh hướng, khoảnh khắc và phong trào đã định hình cho hành vi mua sắm trên toàn cầu.

[CES 2018] Toyota sẽ đưa trợ lý ảo Amazon Alexa lên các sản phẩm của mình, bao gồm cả dòng xe sang trọng Lexus

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
[CES 2018] Toyota sẽ đưa trợ lý ảo Amazon Alexa lên các sản phẩm của mình, bao gồm cả dòng xe sang trọng Lexus
Dự kiến đến năm 2019, hầu hết các dòng xe của Toyota đều có thể sử dụng Alexa.

Trung Quốc: Tổng cộng hơn 1000 chiếc xe đạp chia sẻ được vớt dưới sông lên

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
Trung Quốc: Tổng cộng hơn 1000 chiếc xe đạp chia sẻ được vớt dưới sông lên
Xe đạp chia sẻ (shared bike) không chỉ chiếm chỗ trên đường phố, vỉa hè và các bãi đất trống, nó còn là nỗi kinh hoàng với những dòng sông vốn đã ô nhễm ở Trung Quốc.

7 lời dối lòng mà các fan cuồng tiền số thường mắc phải

tinybook tinybook 1 tuần 3 ngày
Khoa Học Công Nghệ
7 lời dối lòng mà các fan cuồng tiền số thường mắc phải
Tính đến thời điểm hiện tại, giá trị vốn hóa của bitcoin vào khoảng 260 tỷ USD (theo số liệu Coinmarketcap). Tuy nhiên, điều đó không có nghĩa là 260 tỷ USD đang tồn tại ở một nơi nào đó và sẽ được phát tán cho những người đang nắm giữ bitcoin.

Hacker đã lợi dụng lỗ hổng email trên Reddit để đánh cắp hàng ngàn Bitcoin Cash như thế nào?

tinybook tinybook 1 tuần 4 ngày
Khoa Học Công Nghệ
Hacker đã lợi dụng lỗ hổng email trên Reddit để đánh cắp hàng ngàn Bitcoin Cash như thế nào?
Hơn 2 tuần trước, cộng đồng mạng Reddit ủng hộ Bitcoin Cash (BCH) đã rộ lên thông tin nhiều tài khoản đang bị can thiệp bởi một phương thức tấn công mới đáng lo ngại.
tinybook Công Nghệ Thông Tin



Chat