Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Nếu muốn tin tưởng vào một hệ thống bảo mật sử dụng những thuật toán machine learning này, ta cần một hệ thống nhận dạng hình ảnh tốt hơn như thế này.

Thuật toán machine learning sử dụng một lượng dữ liệu khổng lồ để phân tích, đưa ra những giải pháp cho mọi khía cạnh, từ trả lời email bạn đọc cho tới dịch thuật ngôn ngữ - những thứ có những cơ sở dữ liệu lớn thường là quá sức làm thủ công của con người. Đó là lý do vì sao những thuật toán ấy lại được người ta ca ngợi là tương lai của công nghệ hiện đại.

Có một vấn đề như thế này: chúng có thể bị đánh lừa khá dễ dàng. Video bên dưới sẽ cho bạn thấy điều đó.

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 1.

Trong vài năm qua, các nhà nghiên cứu đã cho công chúng thấy rằng hệ thống phân loại hình ảnh – một thuật toán machine learning làm công việc đúng với tên gọi của nó, phân loại hình ảnh xem đâu là chó đâu là mèo – đầy lỗ hổng, nó có thể nhầm lẫn nghiêm trọng. Cụ thể, nó không thể chống đỡ trước những cuộc tấn công với phương thức "ví dụ đối lập – adversarial example".

Thực hiện cách thức tấn công, làm "ô nhiễm" cơ sở dữ liệu bằng cách đưa cho thuật toán này một hình ảnh chứa lỗi – một lỗi mắt người không phát hiện được, nghiễm nhiên hệ thống phân loại hình ảnh sẽ nhìn nhầm tấm ảnh có con chó thành một hình nào đó khác.

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 2.

Người trượt tuyết.

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 3.

Thay đổi các thành tố để thành hình một chú chó.

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 4.

Máy sẽ nhận dạng đây là chó.

Trước đây, các nhà nghiên cứu machine learning vẫn cho là lỗi này chỉ mang tính lý thuyết mà thôi, cho tới khi hàng loạt ví dụ được đưa ra, chứng minh đây là một lỗ hổng nghiêm trọng. Đầu năm nay, một nhóm học sinh từ tổ chức h ọc sihn LabSix tại Viện Công nghệ Massachusetts (MIT) có thể tạo ra một vật thể ba chiều cũng có thể đánh lừa được những thuật toán nhận dạng hình ảnh. Đây là bằng chứng minh chứng rõ ràng rằng "ví dụ đối lập" có thể ảnh hưởng tới thế giới thực của ta.

Tuy nhiên, có một điểm mấu chốt bị giới hạn trong nghiên cứu của nhóm sinh viên này: họ vẫn cần phải thâm nhập vào bên trong cách thức hoạt động của thuật toán nhận dạng hình ảnh để tạo ra những ví dụ đối lập nói trên.

Tuy vậy, cuối năm 2017 vừa rồi, cũng vẫn là nhóm sinh viên này, họ đã tìm ra cách vượt qua giới hạn ấy. Họ đã chỉ ra được những yếu điểm, những lỗ hổng có thể khai thác ngay trên chính những trí tuệ nhân tạo nhận dạng hình ảnh đã và đang hoạt động trong thế giới thực.

Cách đánh lừa mạng neural và những thuật toán nhận diện hình ảnh của nó.

Trong bản báo cáo khoa học mới của mình, các tác giả mô tả khả năng tạo ra được những ví dụ đối lập ngay cả khi biết rất ít thông tin về những thuật toán mà họ muốn đánh lừa. Kể cả tốc độ đánh lừa thuật toán này cũng nhanh hơn hẳn so với những phương cách trước đây. Để thể hiện được rằng cách thức này hiệu quả, họ đã thử tấn công Google Cloud Vision API, thuật toán nhận dạng hình ảnh quy chuẩn được sử dụng rộng rãi.

Họ đã thành công. Tất cả những gì nhóm nghiên cứu này biết về Cloud Vision là những gì nó tạo ra khi nó chụp lại một bức ảnh. Những phỏng đoán ở đầu với số % cao nhất thường là vật thể trong bức ảnh trên.

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 6.

Đây là Vũ khí. Sau khi bị thay đổi thì ...

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 7.

... sẽ bị nhận nhầm thành máy bay trực thăng.

Khi không có những thông tin cơ bản về mạng neural xử lý hình ảnh kia, việc tạo ra một ví dụ đối lập có thể lừa được hệ thống cực kỳ khó khăn, theo lời Andrew Ilyas, một trong số những sinh viên thuộc LabSix. 

"Thông thường, bạn muốn tạo ra một ví dụ đối lập, bạn phải bắt đầu với một hình ảnh của một con chó và muốn biến nó thành một thứ quả", Ilyas nói. "Tôi phải có tỷ lệ bao nhiêu phần trăm rằng hệ thống sẽ nhầm chó thành quả. Nhưng trên Google Cloud Vision, bạn sẽ không biết được con số ấy. Hệ thống chỉ nói cho bạn biết nó tự tin bao nhiêu phần trăm rằng đây là chó thôi".

Để vượt qua được khó khăn này, đội ngũ nghiên cứu sử dụng một mảng khoa học máy tính khác để ước chừng xem cần phải thay đổi bao nhiêu pixel trên hình con chó để biến nó thành thứ quả. Tiếp theo, họ dùng một cặp thuật toán khác nhằm thay đổi những pixel ấy. Quá trình này bao gồm đưa hàng ngàn, hàng triệu lượt hình ảnh lên API của Cloud Vision, dần dần thuật toán sẽ đổi từ "chó" sang "quả".

Bạn có tin không, nhận dạng hình ảnh của Google bảo đây là một chú cún - Ảnh 8.

Nội dung thay đổi hoàn toàn. Cá - Sữa trứng (hình đầu) hay Chó - Giỏ đi chợ (hình cuối).

Thông thường, quá trình này mất tới 5 triệu truy vấn để thành công. Cách thức của LabSix chỉ mất có 1 triệu lượt truy vấn thôi. Họ tạo ra một hình ảnh con chó mà hệ thống machine learning sẽ nhận dạng là một quả. Mắt người của ta sẽ vẫn nhận đó là con chó, bởi lẽ ta không thể thấy được các pixel trên ảnh đã thay đổi như thế nào.

Đây là một phương thức tấn công cực kỳ hiệu quả, bất kỳ ai cũng có thể lừa được một hệ thống phân loại hình ảnh. "Đây lại là một kết quả nghiên cứu khác cho thấy hệ thống thực tế đang gặp lỗ hổng nghiêm trọng", Anish Athalye, một sinh viên thuộc LabSix khác. Tuy vậy, Athalye cũng bổ sung thêm rằng dù "đây là một hệ thống chưa từng bị tấn công, tuy vậy nó vẫn rất dễ bị tổn thương".

Ví dụ đối lập đã bước ra ngoài đời thực nhưng các nhà nghiên cứu vẫn chưa tìm ra được cách thức phòng chống hiệu quả. Khi mà những thuật toán nhận dạng này càng trở nên rộng rãi và dễ tiếp cận hơn, nguy cơ những kẽ hở trên bị lợi dụng càng cao. Tuy vậy, LabSix mong rằng họ cũng các tổ chức nghiên cứu machine learning khác có thể vá được lỗ hổng này trước khi có hậu quả xảy ra: họ đã tìm ra được lỗ hổng sớm, và hiển nhiên cần sớm chung tay để khắc phục nó.

Chiếc đĩa bí ẩn của nước Nga: Dù bé tẹo nhưng chẳng ai nhấc nổi, bên dưới ẩn giấu bí mật gây ngỡ ngàng

tinybook tinybook 6 ngày 4 giờ
Chiếc đĩa bí ẩn của nước Nga: Dù bé tẹo nhưng chẳng ai nhấc nổi, bên dưới ẩn giấu bí mật gây ngỡ ngàng
Chiếc đĩa bí ẩn này thực chất là gì? Nếu biết, bạn sẽ hết sức bất ngờ đấy.

Thế giới đang sử dụng những cách nào để xây dựng nhà chống lũ?

tinybook tinybook 6 ngày 5 giờ
Thế giới đang sử dụng những cách nào để xây dựng nhà chống lũ?
Bên cạnh chống lũ, việc sống chung với lũ cũng là một trong những phương án nhiều nước áp dụng ngày nay. Điểm thiết yếu của chính sách này là phải xây dựng được những ngôi nhà chống lũ cho người dân.

2 thầy trò sử dụng thuật toán để biến bản đồ từ thời cổ đại thành hình chụp rõ nét như bản đồ vệ tinh

tinybook tinybook 6 ngày 18 giờ
2 thầy trò sử dụng thuật toán để biến bản đồ từ thời cổ đại thành hình chụp rõ nét như bản đồ vệ tinh
Nhìn vào để thấy sự thay đổi chóng mặt của đô thị hóa.

Nghệ nhân Zimbabwea biến lốp xe hơi cũ thành những đôi dép độc đáo

tinybook tinybook 6 ngày 18 giờ
Nghệ nhân Zimbabwea biến lốp xe hơi cũ thành những đôi dép độc đáo
Dù tạo ra một đôi giày thoải mái từ lốp xe hơi cũ nghe có vẻ phi thực tế, nhưng theo những gì Chitukutuku đang làm, quy trình này có vẻ khá đơn giản, chỉ mất chưa đầy 1 tiếng đồng hồ.

Chàng thanh niên mang hoài bão dọn sạch biển hợp tác cùng Microsoft, chế tạo tàu gom rác tự hành chạy bằng năng lượng Mặt Trời

tinybook tinybook 6 ngày 19 giờ
Chàng thanh niên mang hoài bão dọn sạch biển hợp tác cùng Microsoft, chế tạo tàu gom rác tự hành chạy bằng năng lượng Mặt Trời
Dự kiến, hai điểm đến tiếp theo của những hệ thống tàu này là Việt Nam và Cộng hoà Dominica.

Giới khảo cổ phát hiện hình vẽ mèo khổng lồ 2000 năm tuổi nằm ngay giữa sa mạc tại Peru

tinybook tinybook 6 ngày 22 giờ
Giới khảo cổ phát hiện hình vẽ mèo khổng lồ 2000 năm tuổi nằm ngay giữa sa mạc tại Peru
Theo đó, các nhà khảo cổ học đã bất ngờ phát hiện hình vẽ con mèo khổng lồ này khi đang cải tạo lối đi để du khách có thể dễ tới chiêm ngưỡng những bức hình khổng lồ tạo nên Nazca Lines bí ẩn và nổi tiếng.

Tìm xuống vùng biển sâu nhất đại dương, khoa học phát hiện sự thật đau lòng: Biến đổi khí hậu đang nghiêm trọng hơn bao giờ hết rồi

tinybook tinybook 1 tuần 1 giờ
Tìm xuống vùng biển sâu nhất đại dương, khoa học phát hiện sự thật đau lòng: Biến đổi khí hậu đang nghiêm trọng hơn bao giờ hết rồi
Có một xu hướng đáng ngại đang tồn tại dưới đáy đại dương, và khoa học đang tích cực tìm hiểu thêm.

Các nhà thiên văn học hóa giải bí ẩn về thiên hà chứa 99,99% vật chất tối

tinybook tinybook 1 tuần 16 giờ
Các nhà thiên văn học hóa giải bí ẩn về thiên hà chứa 99,99% vật chất tối
Nhiều khả năng đội nghiên cứu đưa nhận định cũ sẽ tính toán lại để tranh cãi bằng được rằng mình đúng. Chúng ta cùng "lót dép" chờ xem.

Phát hiện ra "siêu sức mạnh" mới của loài gấu nước: một lá chắn cực tím bằng huỳnh quang

tinybook tinybook 1 tuần 19 giờ
Phát hiện ra "siêu sức mạnh" mới của loài gấu nước: một lá chắn cực tím bằng huỳnh quang
Gấu nước vẫn chưa thôi làm chúng ta bất ngờ.

7 việc cực đơn giản nhưng nếu làm được, bạn đặc biệt hơn 90% dân số thế giới đấy

tinybook tinybook 1 tuần 22 giờ
7 việc cực đơn giản nhưng nếu làm được, bạn đặc biệt hơn 90% dân số thế giới đấy
Hãy thử xem mình có phải là "của hiếm" của thế giới hay không nhé.

Giáo sư đại học Mỹ tuyên bố: Rất có thể chúng ta đang sống trong một thế giới giả lập

tinybook tinybook 1 tuần 1 ngày
Giáo sư đại học Mỹ tuyên bố: Rất có thể chúng ta đang sống trong một thế giới giả lập
Theo kết luận của giáo sư, tỉ lệ sống trong giả lập của chúng ta lên tới 50%.

6 ý nghĩa thực sự mỗi khi bạn cảm thấy "Deja vu" - hiện tượng rất nhiều người đã từng trải nghiệm mà không giải thích nổi

tinybook tinybook 1 tuần 1 ngày
6 ý nghĩa thực sự mỗi khi bạn cảm thấy "Deja vu" - hiện tượng rất nhiều người đã từng trải nghiệm mà không giải thích nổi
Deja vu đến nay vẫn là một hiện tượng khoa học chưa thể giải thích. Dẫu vậy, nó vẫn mang đến những ý nghĩa nhất định.

Khoa học "đập hộp" hang động tách biệt khỏi thế giới suốt 5 triệu năm, và đây là những gì được tìm thấy

tinybook tinybook 1 tuần 1 ngày
Khoa học "đập hộp" hang động tách biệt khỏi thế giới suốt 5 triệu năm, và đây là những gì được tìm thấy
Một hang động bị đóng kín suốt 5,5 triệu năm, chỉ được tìm ra từ cách đây hơn 30 năm và đến nay mới chỉ có chưa đến 100 người được phép xuống thám hiểm.

Ai đã tạo ra thế giới kỳ lạ của "Nghìn lẻ một đêm"?

tinybook tinybook 1 tuần 1 ngày
Ai đã tạo ra thế giới kỳ lạ của "Nghìn lẻ một đêm"?
Nghìn lẻ một đêm là bộ sưu tập các truyện dân gian Trung Đông và Nam Á được biên soạn bằng tiếng Ả Rập trong thời đại hoàng kim Hồi giáo.

Sự kiện Dust Bowl: "Cơn bão đen" kéo dài 10 năm trên khắp Bắc Mỹ

tinybook tinybook 1 tuần 1 ngày
Sự kiện Dust Bowl: "Cơn bão đen" kéo dài 10 năm trên khắp Bắc Mỹ
Sự kiện Dust Bowl nổi bật với hiện tượng rất nhiều cơn bão và lốc hoành hành ở các đồng cỏ tại khu vực Bắc Mỹ và gây ra nhiều thiệt hại kinh khủng.

Cùng nghe thứ âm thanh tuyệt diệu của vũ trụ, được tạo ra từ loạt ảnh chụp Dải Ngân hà của NASA

tinybook tinybook 1 tuần 1 ngày
Cùng nghe thứ âm thanh tuyệt diệu của vũ trụ, được tạo ra từ loạt ảnh chụp Dải Ngân hà của NASA
NASA đã sử dụng quá trình chuyển hóa dữ liệu thành âm thanh để đem tới cách nhận thức về vũ trụ theo một cách hoàn toàn mới, đó là hé “âm thanh” của Dải Ngân hà.

Bất chấp “Bão Facebook" - quét tài khoản, không cho chạy quảng cáo, doanh nghiệp này vẫn có thể đạt 1000 đơn đặt hàng/ngày nhờ 3 việc sau

tinybook tinybook 1 tuần 1 ngày
Bất chấp “Bão Facebook" - quét tài khoản, không cho chạy quảng cáo, doanh nghiệp này vẫn có thể đạt 1000 đơn đặt hàng/ngày nhờ 3 việc sau
"Bão Facebook" đang là từ khoá hot trong thời gian gần đây trong cộng đồng thương mại điện tử và những doanh nghiệp nào có Facebook là kênh quảng cáo, khi bỗng dưng một ngày nhận được thông báo "tài khoản quảng cáo bị vô hiệu hoá", dù không vi phạm hoặc nhận được bất kỳ cảnh báo nào.

Điều gì sẽ xảy ra nếu hai khối rác không gian va chạm vào nhau?

tinybook tinybook 1 tuần 2 ngày
Điều gì sẽ xảy ra nếu hai khối rác không gian va chạm vào nhau?
Hiệu ứng Domino có thể tạo ra lớp mảnh vỡ không thể xuyên thủng, giam giữ chúng ta trên Trái đất vĩnh viễn.

10 sai lầm hay mắc phải trong việc dọn dẹp nhà cửa

tinybook tinybook 1 tuần 2 ngày
10 sai lầm hay mắc phải trong việc dọn dẹp nhà cửa
Trong quá trình dọn dẹp và chăm sóc nhà cửa, chúng ta thường mắc phải những sai lầm không chỉ gây hại cho những đồ vật xung quanh mà còn cho chính bản thân chúng ta.

Phân tích đá Mặt Trăng cho thấy nhà chị Hằng từng phát ra từ trường, và nhờ nó sự sống trên Trái Đất mới xuất hiện

tinybook tinybook 1 tuần 2 ngày
Phân tích đá Mặt Trăng cho thấy nhà chị Hằng từng phát ra từ trường, và nhờ nó sự sống trên Trái Đất mới xuất hiện
Lấy được mẫu đá từ hai cực của Mặt Trăng, ta sẽ biết rõ khẳng định này là đúng hay sai.

Sử dụng năng lượng Mặt Trời, thiết bị này lấy được nước từ không khí khô hanh như sa mạc

tinybook tinybook 1 tuần 2 ngày
Sử dụng năng lượng Mặt Trời, thiết bị này lấy được nước từ không khí khô hanh như sa mạc
Toàn bộ hệ thống chỉ nặng 7kg.

Bay liên tục 13.000 km không cần nghỉ, loài chim 'máy bay phản lực' lập kỷ lục vô tiền khoáng hậu

tinybook tinybook 1 tuần 2 ngày
Bay liên tục 13.000 km không cần nghỉ, loài chim máy bay phản lực lập kỷ lục vô tiền khoáng hậu
Bay hơn 12.000km từ Alaska đến New Zealand trong 11 ngày không ngừng nghỉ, một con chim choắt mỏ thẳng đuôi vằn xác lập một kỷ lục vô tiền khoáng hậu trong thế giới động vật.

Đột phá: lần đầu tiên khoa học đạt được siêu dẫn ở nhiệt độ phòng

tinybook tinybook 1 tuần 3 ngày
Đột phá: lần đầu tiên khoa học đạt được siêu dẫn ở nhiệt độ phòng
"Trạng thái siêu dẫn" vẫn là mục tiêu của khoa học vật chất suốt nhiều thập kỷ nay, và chúng ta đã đi được nửa chặng đường với đột phá mới.

Não sôi lên, hộp sọ nổ tung, cơ bắp bốc hơi và mô bị thủy tinh hóa, khoảnh khắc bị núi lửa hủy diệt còn kinh hoàng hơn địa ngục

tinybook tinybook 1 tuần 4 ngày
Não sôi lên, hộp sọ nổ tung, cơ bắp bốc hơi và mô bị thủy tinh hóa, khoảnh khắc bị núi lửa hủy diệt còn kinh hoàng hơn địa ngục
Núi lửa là một vết đứt gãy trên lớp vỏ của một hành tinh, như là Trái Đất cho phép dung nham, tro núi lửa, và khí thoát ra từ một lò magma ở dưới bề mặt.

Khoa học tìm ra giới hạn trên của tốc độ âm thanh: 36 km/s

tinybook tinybook 1 tuần 4 ngày
Khoa học tìm ra giới hạn trên của tốc độ âm thanh: 36 km/s
Trên lý thuyết, âm thanh truyền qua vật liệu hydro kim loại (mới chỉ tồn tại trên lý thuyết) sẽ có tốc độ cao nhất, gần với mốc 36 km/s.

4 lý do khiến TMĐT ngày càng thu hút tín đồ công nghệ

tinybook tinybook 1 tuần 4 ngày
4 lý do khiến TMĐT ngày càng thu hút tín đồ công nghệ
Với hàng loạt ưu đãi độc quyền hấp dẫn, cam kết xuất xứ và chính sách hậu mãi “sang xịn”, sự bùng nổ đơn hàng công nghệ trong những Lễ Hội mua sắm đã và đang chứng tỏ vị thế của hệ thống gian hàng chính hãng trên TMĐT trong lòng fan công nghệ.

Nếu không ngửi được 2 mùi này thì nhiều khả năng bạn đã mắc phải COVID-19

tinybook tinybook 1 tuần 4 ngày
Nếu không ngửi được 2 mùi này thì nhiều khả năng bạn đã mắc phải COVID-19
Mất khứu giác và vị giác là một trong những triệu chứng do coronavirus được báo cáo phổ biến nhất, và cũng là một trong những dấu hiệu rõ ràng nhất về sự hiện diện của virus SARS-CoV-2.

Đây là lý do tại sao ta nên xây cơ sở hạ tầng internet lượng tử trên quỹ đạo

tinybook tinybook 1 tuần 5 ngày
Đây là lý do tại sao ta nên xây cơ sở hạ tầng internet lượng tử trên quỹ đạo
Nghiên cứu mới chỉ ra rằng với một dàn 400 vệ tinh lượng tử, ta sẽ "dễ dàng" có được internet lượng tử toàn cầu.

6 dấu hiệu cho thấy nhà bạn có vấn đề về điện, cần khắc phục 'càng sớm càng tốt'

tinybook tinybook 1 tuần 5 ngày
6 dấu hiệu cho thấy nhà bạn có vấn đề về điện, cần khắc phục càng sớm càng tốt
Các nghiên cứu đã chỉ ra rằng hầu hết các ngôi nhà không tuân theo các biện pháp an toàn được khuyến nghị để ngăn ngừa điện giật và hỏa hoạn, tuy nhiên một số dấu hiệu dễ nhận thấy có thể giúp tìm ra vấn đề trước khi mọi thứ vượt khỏi tầm tay.

Mổ xẻ trạm gốc 5G Huawei mới thấy công ty Trung Quốc cần linh kiện Mỹ đến mức nào

tinybook tinybook 1 tuần 6 ngày
Mổ xẻ trạm gốc 5G Huawei mới thấy công ty Trung Quốc cần linh kiện Mỹ đến mức nào
Gần 30% giá trị trạm gốc 5G của Huawei thuộc về các linh kiện Mỹ, hầu hết trong số đó là các con chip tối quan trọng cho việc xử lý tín hiệu radio, điều khiển nguồn năng lượng cũng như chip nhớ.
tinybook Công Nghệ Thông Tin








Chat