Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Mặt trái của công nghệ hiện hữu rõ hơn bao giờ hết: một video deepfake có thể tiêm nhiễm những suy nghĩ lệch lạc vào người không hiểu chuyện.

Cách đây không lâu, người ta lật tẩy mánh lới lừa đảo tưởng chừng như chỉ xuất hiện trong Nhiệm vụ Bất khả thi hay Scooby-Doo: một người đeo mặt nạ silicon của Ngoại trưởng Pháp - ông Jean-Yves Le Drian để làm video xin tiền các tỷ phú. Với cái cớ “viện trợ nước Pháp chuộc con tin”, kẻ lừa đảo đã nhận được tới cả chục triệu USD trước khi bị bắt.

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 1.

Bằng một cái video mù mờ nhưng với lý lẽ thuyết phục, một người có thể thực hiện cú lừa triệu đô một cách dễ dàng. Giờ bạn hãy tưởng tượng một video rõ nét, với một khuôn mặt thân quen, mang theo những lời nói êm tai lên video, việc truyền đi thông điệp giả hay tiến hành lừa đảo sẽ dễ dàng ra sao.

Nhưng đây mới là mối lo ngại thực sự: công nghệ đã phát triển tới mức có thể ghép khẩu hình của kẻ lừa đảo vào với khuôn mặt của một cá nhân có tiếng. 

Tôi đang nói tới video đi kèm công nghệ deepfake - những video có người phát ngôn là một gương mặt quen thuộc: có thể là người đứng đầu một quốc gia, một người có vai vế trong xã hội và rất được kính nể, có thể chính là người thân của bạn. Bằng một hình tượng đã rất thân quen với bạn, những lời phát ra từ miệng nhân vật đó sẽ bỗng dưng được nhân thêm tính thuyết phục. Bản chất của chúng ta đã thế rồi! Ta thân quen với những gì thân thuộc.

Giải thích về “deepfake”, công cụ lừa đảo thuộc hàng top của thời điểm hiện tại

Ban đầu, deepfake xuất hiện dưới dạng công cụ làm nội dung khiêu dâm cực kỳ tiên tiến, nhưng tiềm năng làm khuấy đảo an ninh trật tự thế giới của nó vẫn chưa được xem xét đúng mực.

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 2.
Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 3.

Khi một kẻ bệnh hoạn muốn ngắm nhìn hình ảnh khỏa thân của một đối tượng bất kỳ, họ sẽ tìm tới những công cụ chỉnh sửa ảnh hoặc những người có hoa tay Photoshop. Nhưng khi hình ảnh chuyển động, Photoshop không đủ năng lực để thỏa mãn dục vọng kẻ đồi bại nữa...

... Cho đến khi sức mạnh machine learning và mạng neural xuất hiện. Với khả năng nhận dữ liệu đầu vào để phân tích, học các khuôn mẫu sẵn có rồi tự cho ra sản phẩm cuối cùng cực kỳ thuyết phục, nó trở thành công cụ tối tân nhất của ngành khiêu dâm.

Nó vượt xa các công cụ chỉnh sửa hình ảnh khi có thể làm ra được các video khiêu dâm, với khuôn mặt diễn viên đóng cảnh nóng ghép thành bất cứ cá nhân nào sở hữu một khuôn mặt ít nhiều điểm tương đồng. Công nghệ nổi tiếng đầu tiên trong khoản này là deepfake, với “deep” của từ “deep learning - học sâu” và “fake - đồ giả”. 

Deepfake - Đồ giả kết hợp với sức mạnh của machine learning để biết thành hàng fake 1, thứ giống với hàng thật nhất và có chất lượng tương đối cao.

Đây là ví dụ về deepfake do đạo diễn phim Jordan Peel thực hiện. Video cũng là thông điệp nhắc nhở mọi người cảnh giác hơn trong thời đại số.

Hai video dưới chứng minh cho sức mạnh hiện tại của mạng neural, khi mà từ một tấm ảnh tĩnh, máy tính có thể làm ra video như thật. Cả hai đều là sản phẩm do ban nghiên cứu mạng neural của Samsung thực hiện.

Rasputin hát bài Halo.

Tấm ảnh của Einstein đang vang lên những lời chính thiên tài năm xưa đã nói.

Deepfake có thể làm gì?

Như đã nhiều lần cảnh báo, tin giả là hình thức phát tán thông tin cực kỳ nguy hiểm. Nhưng bằng chút nhận thức, bằng thái độ cẩn trọng hơn trong việc tiếp nhận thông tin, bằng 5 phút lên Google tra cứu, ta có thể tránh được việc bị tin giả dắt mũi.

Nhưng có mấy ai chịu khó tìm hiểu xem liệu những lời độc địa phát ra từ miệng nhân vật trong video là giả, dù rằng ban đầu chúng mang tính thuyết phục tới đâu. Từ lời nói cho tới cái miệng kia đều là giả: với lời nói là nội dung độc hại tới từ một người (hay một nhóm người vụ lợi cá nhân), cho tới video cũng được làm bằng máy tính.

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 6.

Uncanny valley là thuật ngữ mô tả cảm giác của bạn khi nhìn vào tấm ảnh này. Trong ảnh là robot Sophia.

Ở thời điểm hiện tại, những video giả danh như vậy đều trông rất quái lạ. Nó mang lại cho bản cảm giác của uncanny valley - thung lũng kỳ lạ, cảm giác quái gở bạn cảm thấy khi nhìn vào một sản phẩm cực kỳ giống người, nhưng không hề mang lại cảm giác “giống người” chút nào. Hơn nữa, những điểm làm giả còn rất dễ nhận ra: khẩu hình của người nói lệch lạc ở nhiều điểm, có những điểm hình ảnh không ăn khớp với hình nền, do sức mạnh xử lý hình ảnh của máy tính vẫn chưa tới tầm chân thực.

Ta có thể làm gì?

Cho tới thời điểm này, có hai yếu tố khách quan khiến các video deepfake chưa gây nguy hiểm bằng đúng tiềm năng của nó, mới chỉ dừng lại ở “nội dung khiêu dâm”. Đó là:

- Công nghệ làm ra các nội dung này vẫn còn khá tốn kém. Mặc dù tốc độ làm giả đã được cải thiện đáng kể, tới mức đáng sợ.

- Các nhà nghiên cứu vẫn đang ra sức phát triển công cụ phát hiện ra nội dung giả mạo. Công nghệ có thể tạo ra được những thứ đáng ghê tởm đó, công nghệ cũng sẽ tìm được cách phát hiện và ngăn chặn nó lây lan.

Còn về mỗi cá nhân, chỉ có thể đưa ra lời khuyên về việc tỉnh táo khi dùng Internet, bên cạnh đó đừng chia sẻ và tương tác với những nội dung độc hại. Bạn đang giúp những kẻ đứng đằng sau thu lời bất chính và góp phần tăng tốc độ lây lan của thứ dịch bệnh mới mang tên deepfake.


7 cơ hội việc làm mới đầy hấp dẫn hứa hẹn sẽ được tạo ra nhờ robot

tinybook tinybook 3 tháng 5 ngày
7 cơ hội việc làm mới đầy hấp dẫn hứa hẹn sẽ được tạo ra nhờ robot
Khác xa với sự bi quan của nhiều người về việc robot có thể thay thế con người làm nhiều việc và gián tiếp thúc đẩy tình trạng thất nghiệp, tuy nhiên robot hoàn toàn có thể tạo ra thêm nhiều việc làm mới.

[Video] Cận cảnh quá trình thử nghiệm hệ thống tên lửa đẩy trên tàu vũ trụ Orion của NASA

tinybook tinybook 3 tháng 5 ngày
[Video] Cận cảnh quá trình thử nghiệm hệ thống tên lửa đẩy trên tàu vũ trụ Orion của NASA
Quá trình thử nghiệm tên lửa đẩy rất quan trọng vì nó quyết định phần lớn sự thành công của việc đưa tàu vũ trụ Orion của NASA đi vào đúng quỹ đạo và tiếp cận được Mặt Trăng.

Cận cảnh chuyên gia Nhật Bản tắm nước sông Tô Lịch

tinybook tinybook 3 tháng 5 ngày
Cận cảnh chuyên gia Nhật Bản tắm nước sông Tô Lịch
Chuyên gia Nhật Bản hy vọng trong tương lai, khi cả sông được xử lý làm sạch bằng công nghệ Nano, nước sông Tô Lịch lại trong xanh.

Vệ tinh không chỉ dẫn đường, giám sát thiên tai mà đã có thể dự đoán khi nào một cây cầu sắp sập

tinybook tinybook 3 tháng 6 ngày
Vệ tinh không chỉ dẫn đường, giám sát thiên tai mà đã có thể dự đoán khi nào một cây cầu sắp sập
Vệ tinh không chỉ dẫn đường, giám sát thiên tai mà đã có thể dự đoán khi nào một cây cầu sắp sập

Tìm được loại men ủ hơn 4500 năm, nhà khoa học thử chế biến và thành công với món bánh mì nướng thơm ngon lạ lùng

tinybook tinybook 3 tháng 6 ngày
Tìm được loại men ủ hơn 4500 năm, nhà khoa học thử chế biến và thành công với món bánh mì nướng thơm ngon lạ lùng
Có thể bạn vẫn sẽ tin tưởng và ăn một chiếc bánh bị hết hạn một hoặc hai ngày. Nhưng bạn có dám ăn một chiếc bánh mì nướng đã hết hạn sử dụng quá 4500 năm hay không?

Chiêm ngưỡng ảnh đẹp như mơ chụp bằng smartphone OPPO

tinybook tinybook 3 tháng 6 ngày
Chiêm ngưỡng ảnh đẹp như mơ chụp bằng smartphone OPPO
Đây là những bức ảnh xuất sắc nhất đã thắng giải trrong cuộc thi OPPO Creators Awards năm 2019. Cuộc thi hướng đến cộng đồng người dùng smartphone đam mê nhiếp ảnh trên toàn cầu, với thông điệp :”See Beyond” (Vượt chuẩn tầm nhìn).

Cận cảnh dàn nội thất siêu hiện đại sắp được trang bị cho các máy bay của Airbus trong tương lai

tinybook tinybook 3 tháng 1 tuần
Cận cảnh dàn nội thất siêu hiện đại sắp được trang bị cho các máy bay của Airbus trong tương lai
Cụ thể, dàn nội thất này sẽ được mang lên các mẫu máy bay A330, với tên gọi mới là A330neo Airspace.

Một công ty xây dựng tại Mỹ cung cấp dịch vụ biến sân vườn thành bãi biển nhân tạo với biển xanh, cát trắng, nắng vàng

tinybook tinybook 3 tháng 1 tuần
Một công ty xây dựng tại Mỹ cung cấp dịch vụ biến sân vườn thành bãi biển nhân tạo với biển xanh, cát trắng, nắng vàng
Chỉ cần bỏ ra từ 20 ngàn USD, bạn có thể biến một khoảng sân nhà bạn trở thành bãi biển nhiệt đới đầy nắng và gió ngay trong đời thực.

Ngọn hải đăng bị cô lập ở Iceland này là nơi hoàn hảo để tránh một đại dịch zombie

tinybook tinybook 3 tháng 1 tuần
Ngọn hải đăng bị cô lập ở Iceland này là nơi hoàn hảo để tránh một đại dịch zombie
Một ngọn hải đăng đặc biệt ở Iceland được mệnh danh là địa điểm hoàn hảo để sống sót nếu như có một ngày đại dịch zombie xảy ra.

Các nhà khoa học Nhật chế tạo một chiếc đuôi máy, vì nghĩ rằng con người không có đuôi là một thiếu sót lớn

tinybook tinybook 3 tháng 1 tuần
Các nhà khoa học Nhật chế tạo một chiếc đuôi máy, vì nghĩ rằng con người không có đuôi là một thiếu sót lớn
Sẽ ra sao nếu con người có đuôi?

Đã có 'siêu thực phẩm' có thể cứu đói cả nhân loại: Tất cả chỉ nhờ loại thực vật nhỏ bé này!

tinybook tinybook 3 tháng 1 tuần
Đã có siêu thực phẩm có thể cứu đói cả nhân loại: Tất cả chỉ nhờ loại thực vật nhỏ bé này!
Một công ty khởi nghiệp ở Anh đã tạo ra một loại thực phẩm chỉ từ vi tảo nhưng đáp ứng đầy đủ mọi nhu cầu dưỡng chất cho cơ thể.

Kết hợp 2 kỹ thuật diệt muỗi bí truyền, các nhà khoa học triệt tiêu được 94% lượng muỗi tại hai hòn đảo Trung Quốc

tinybook tinybook 3 tháng 1 tuần
Kết hợp 2 kỹ thuật diệt muỗi bí truyền, các nhà khoa học triệt tiêu được 94% lượng muỗi tại hai hòn đảo Trung Quốc
Báo cáo khoa học mới cho ta hy vọng về một miền đất hứa, nơi con người không còn bị muỗi đốt mỗi khi hè tới.

Sự đáng sợ của biến đổi khí hậu: Đến động vật ở vùng lạnh nhất cũng không thể sống nổi nữa

tinybook tinybook 3 tháng 1 tuần
Sự đáng sợ của biến đổi khí hậu: Đến động vật ở vùng lạnh nhất cũng không thể sống nổi nữa
Biến đổi khí hậu đã khiến động vật chết hàng loạt khi nhiệt độ tăng đột biến tại một số khu vực.

Nhà hoạt động vì quyền động vật hô hào người dân "để yên cho muỗi hút máu vì nó còn phải nuôi con"

tinybook tinybook 3 tháng 1 tuần
Nhà hoạt động vì quyền động vật hô hào người dân "để yên cho muỗi hút máu vì nó còn phải nuôi con"
Trong khi cả thế giới đang ra sức diệt muỗi, người đàn ông này lại kêu gọi mọi người để loài côn trùng này được yên thân.

Khi bị ong bắp cày tấn công, ong mật Nhật Bản sẽ bu lấy đối thủ, đồng loạt rung lên để nướng chín kẻ địch

tinybook tinybook 3 tháng 1 tuần
Khi bị ong bắp cày tấn công, ong mật Nhật Bản sẽ bu lấy đối thủ, đồng loạt rung lên để nướng chín kẻ địch
Tự nhiên kỳ diệu làm sao!

Thứ gì chúng ta tạo ra được nhưng không thể chứa đựng được? Nếu bạn đoán "tình yêu dành cho crush" thì sai bét!

tinybook tinybook 3 tháng 1 tuần
Thứ gì chúng ta tạo ra được nhưng không thể chứa đựng được? Nếu bạn đoán "tình yêu dành cho crush" thì sai bét!
Hóa ra các nhà hóa học đang giữ đáp án cho câu hỏi này.

Tại sao hầu hết bảng mạch in lại có màu xanh lá cây trong khi của Apple lại màu đen?

tinybook tinybook 3 tháng 1 tuần
Tại sao hầu hết bảng mạch in lại có màu xanh lá cây trong khi của Apple lại màu đen?
Dù các bảng mạch màu xanh lá cây giúp việc kiểm tra bản mạch hiệu quả hơn, nhưng khi quá trình này được tự động hóa cao hơn, màu sắc của nó trở nên không còn quá quan trọng nữa.

Cách sử dụng phần mềm trên máy bay 300 triệu USD: cứ 149 tiếng thì nhớ phải tắt đi bật lại

tinybook tinybook 3 tháng 1 tuần
Cách sử dụng phần mềm trên máy bay 300 triệu USD: cứ 149 tiếng thì nhớ phải tắt đi bật lại
Bệnh "lag" không của riêng ai.

Bạn có biết: Quân đội Mỹ từng thả cả cả dàn nhạc cụ xuống căn cứ cho binh lính giải trí sau những giờ chiến đấu căng thẳng

tinybook tinybook 3 tháng 1 tuần
Bạn có biết: Quân đội Mỹ từng thả cả cả dàn nhạc cụ xuống căn cứ cho binh lính giải trí sau những giờ chiến đấu căng thẳng
Trong chiến tranh, người lính cũng cần được giải trí và quân đội Mỹ có một cách để giải trí rất hữu hiệu cho binh lính, đó là mang đàn piano và các nhạc cụ ra ngoài chiến trường.

Độc đáo ý tưởng khách sạn xây dựng sát vách núi với hồ bơi vô cực kéo dài ngoài mỏm đá

tinybook tinybook 3 tháng 1 tuần
Độc đáo ý tưởng khách sạn xây dựng sát vách núi với hồ bơi vô cực kéo dài ngoài mỏm đá
Nếu bạn đủ can đảm dạo bước ngoài ban công khách sạn, thậm chí là thả mình trong hồ bơi kéo dài ra ngoài vách núi, có lẽ bạn là một trong số những người gan dạ nhất trên hành tinh.

Lốc xoáy bình thường xưa rồi, đoạn video lốc xoáy... than này sẽ khiến bạn phải sững sờ

tinybook tinybook 3 tháng 1 tuần
Lốc xoáy bình thường xưa rồi, đoạn video lốc xoáy... than này sẽ khiến bạn phải sững sờ
Nếu như năm ngoái là năm của lốc xoáy lửa, thì năm nay chúng ta có lốc xoáy than.

Bằng dung dịch từ tính do NASA sáng chế, chàng trai 18 tuổi tìm ra cách lọc vi nhựa khỏi nước

tinybook tinybook 3 tháng 1 tuần
Bằng dung dịch từ tính do NASA sáng chế, chàng trai 18 tuổi tìm ra cách lọc vi nhựa khỏi nước
Fionn Ferreira nhận về 50.000 USD tiền thưởng từ Hội chợ Khoa học Google. Một phần thưởng xứng đáng cho nỗ lực cứu lấy nhân loại!

Chiếc xe đạp tự lái này cho thấy sự tiến bộ trong khả năng thiết kế chip của Trung Quốc

tinybook tinybook 3 tháng 1 tuần
Chiếc xe đạp tự lái này cho thấy sự tiến bộ trong khả năng thiết kế chip của Trung Quốc
Nhờ thiết kế lai giữa kiến trúc chip thông thường với các mạng lưới thần kinh nhân tạo, chip Tianjic có thể mang tới nhiều khả năng cao cấp cho chiếc xe đạp tự lái.

Đây là hệ thống dùng năng lượng Mặt Trời để biến nước biển thành nước ngọt, tạo ra được 75.000 lít nước/ngày với giá chỉ 58 VNĐ/lít

tinybook tinybook 3 tháng 1 tuần
Đây là hệ thống dùng năng lượng Mặt Trời để biến nước biển thành nước ngọt, tạo ra được 75.000 lít nước/ngày với giá chỉ 58 VNĐ/lít
Nó sẽ giải quyết được vấn nạn thiếu nước nhân loại đã đang đối mặt.

Nghiên cứu mới: Uống rượu vang đỏ giúp giảm stress và trầm cảm nhờ vào một hợp chất đặc biệt

tinybook tinybook 3 tháng 1 tuần
Nghiên cứu mới: Uống rượu vang đỏ giúp giảm stress và trầm cảm nhờ vào một hợp chất đặc biệt
Việc phát hiện một hợp chất đặc biệt trong rượu vang đỏ đã mở đường cho việc phát triển các loại thuốc chống trầm cảm và lo âu mới có nguồn gốc thiên nhiên.

Giải ngố về Eternals, tập hợp siêu anh hùng sở hữu quyền năng vô song sắp xuất hiện trong Vũ trụ Điện ảnh Marvel

tinybook tinybook 3 tháng 1 tuần
Giải ngố về Eternals, tập hợp siêu anh hùng sở hữu quyền năng vô song sắp xuất hiện trong Vũ trụ Điện ảnh Marvel
Trong bài viết này sẽ đi sâu hơn vào tiểu sử và các thông tin về nhóm siêu anh hùng the Eternals.

Hỏi khó: Thuốc độc lúc hết hạn sẽ không độc nữa hay còn nguy hiểm hơn?

tinybook tinybook 3 tháng 1 tuần
Hỏi khó: Thuốc độc lúc hết hạn sẽ không độc nữa hay còn nguy hiểm hơn?
Đã bao giờ bạn tự hỏi chuyện gì sẽ xảy ra với chai thuốc diệt chuột hết hạn từ năm ngoái của nhà mình chưa? Thời gian chắc chắn đã làm nó bị hỏng – nhưng mà "hỏng" theo cách nào nhỉ?

Chiếc xe đạp điện giá 3.000 USD được quảng cáo "không thể bị ăn trộm" bị phá khóa trong chưa đầy 60 giây

tinybook tinybook 3 tháng 1 tuần
Chiếc xe đạp điện giá 3.000 USD được quảng cáo "không thể bị ăn trộm" bị phá khóa trong chưa đầy 60 giây
Trên đời này không có thứ gì tuyệt đối cả.

Các nhà khoa học phát minh ra loại vải càng thơm khi càng thấm nhiều mồ hôi

tinybook tinybook 3 tháng 1 tuần
Các nhà khoa học phát minh ra loại vải càng thơm khi càng thấm nhiều mồ hôi
Bộ quần áo bạn mặc khi tập thể dục thể thao sẽ kiêm luôn vai trò máy lọc không khí!

Giải ngố về AGI: Trí tuệ nhân tạo có thể đưa nhân loại sang trang mới, lại vừa có thể dẫn đến họa diệt vong nếu rơi vào tay kẻ xấu

tinybook tinybook 3 tháng 1 tuần
Giải ngố về AGI: Trí tuệ nhân tạo có thể đưa nhân loại sang trang mới, lại vừa có thể dẫn đến họa diệt vong nếu rơi vào tay kẻ xấu
Giờ là thời điểm năm 2019, một loạt những công nghệ tưởng như bất khả thi đã đang tìm được đường ra tới đời thực. Trong số đó, ta có Trí tuệ Phổ biến Nhân tạo - Artificial General Intelligence.
tinybook Công Nghệ Thông Tin








Chat