Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số
Theo: Dink Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Mặt trái của công nghệ hiện hữu rõ hơn bao giờ hết: một video deepfake có thể tiêm nhiễm những suy nghĩ lệch lạc vào người không hiểu chuyện.

Cách đây không lâu, người ta lật tẩy mánh lới lừa đảo tưởng chừng như chỉ xuất hiện trong Nhiệm vụ Bất khả thi hay Scooby-Doo: một người đeo mặt nạ silicon của Ngoại trưởng Pháp - ông Jean-Yves Le Drian để làm video xin tiền các tỷ phú. Với cái cớ “viện trợ nước Pháp chuộc con tin”, kẻ lừa đảo đã nhận được tới cả chục triệu USD trước khi bị bắt.

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 1.

Bằng một cái video mù mờ nhưng với lý lẽ thuyết phục, một người có thể thực hiện cú lừa triệu đô một cách dễ dàng. Giờ bạn hãy tưởng tượng một video rõ nét, với một khuôn mặt thân quen, mang theo những lời nói êm tai lên video, việc truyền đi thông điệp giả hay tiến hành lừa đảo sẽ dễ dàng ra sao.

Nhưng đây mới là mối lo ngại thực sự: công nghệ đã phát triển tới mức có thể ghép khẩu hình của kẻ lừa đảo vào với khuôn mặt của một cá nhân có tiếng. 

Tôi đang nói tới video đi kèm công nghệ deepfake - những video có người phát ngôn là một gương mặt quen thuộc: có thể là người đứng đầu một quốc gia, một người có vai vế trong xã hội và rất được kính nể, có thể chính là người thân của bạn. Bằng một hình tượng đã rất thân quen với bạn, những lời phát ra từ miệng nhân vật đó sẽ bỗng dưng được nhân thêm tính thuyết phục. Bản chất của chúng ta đã thế rồi! Ta thân quen với những gì thân thuộc.

Giải thích về “deepfake”, công cụ lừa đảo thuộc hàng top của thời điểm hiện tại

Ban đầu, deepfake xuất hiện dưới dạng công cụ làm nội dung khiêu dâm cực kỳ tiên tiến, nhưng tiềm năng làm khuấy đảo an ninh trật tự thế giới của nó vẫn chưa được xem xét đúng mực.

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 2.
Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 3.

Khi một kẻ bệnh hoạn muốn ngắm nhìn hình ảnh khỏa thân của một đối tượng bất kỳ, họ sẽ tìm tới những công cụ chỉnh sửa ảnh hoặc những người có hoa tay Photoshop. Nhưng khi hình ảnh chuyển động, Photoshop không đủ năng lực để thỏa mãn dục vọng kẻ đồi bại nữa...

... Cho đến khi sức mạnh machine learning và mạng neural xuất hiện. Với khả năng nhận dữ liệu đầu vào để phân tích, học các khuôn mẫu sẵn có rồi tự cho ra sản phẩm cuối cùng cực kỳ thuyết phục, nó trở thành công cụ tối tân nhất của ngành khiêu dâm.

Nó vượt xa các công cụ chỉnh sửa hình ảnh khi có thể làm ra được các video khiêu dâm, với khuôn mặt diễn viên đóng cảnh nóng ghép thành bất cứ cá nhân nào sở hữu một khuôn mặt ít nhiều điểm tương đồng. Công nghệ nổi tiếng đầu tiên trong khoản này là deepfake, với “deep” của từ “deep learning - học sâu” và “fake - đồ giả”. 

Deepfake - Đồ giả kết hợp với sức mạnh của machine learning để biết thành hàng fake 1, thứ giống với hàng thật nhất và có chất lượng tương đối cao.

Đây là ví dụ về deepfake do đạo diễn phim Jordan Peel thực hiện. Video cũng là thông điệp nhắc nhở mọi người cảnh giác hơn trong thời đại số.

Hai video dưới chứng minh cho sức mạnh hiện tại của mạng neural, khi mà từ một tấm ảnh tĩnh, máy tính có thể làm ra video như thật. Cả hai đều là sản phẩm do ban nghiên cứu mạng neural của Samsung thực hiện.

Rasputin hát bài Halo.

Tấm ảnh của Einstein đang vang lên những lời chính thiên tài năm xưa đã nói.

Deepfake có thể làm gì?

Như đã nhiều lần cảnh báo, tin giả là hình thức phát tán thông tin cực kỳ nguy hiểm. Nhưng bằng chút nhận thức, bằng thái độ cẩn trọng hơn trong việc tiếp nhận thông tin, bằng 5 phút lên Google tra cứu, ta có thể tránh được việc bị tin giả dắt mũi.

Nhưng có mấy ai chịu khó tìm hiểu xem liệu những lời độc địa phát ra từ miệng nhân vật trong video là giả, dù rằng ban đầu chúng mang tính thuyết phục tới đâu. Từ lời nói cho tới cái miệng kia đều là giả: với lời nói là nội dung độc hại tới từ một người (hay một nhóm người vụ lợi cá nhân), cho tới video cũng được làm bằng máy tính.

Deepfake - thứ vũ khí nguy hiểm bậc nhất sinh ra trong thời đại số - Ảnh 6.

Uncanny valley là thuật ngữ mô tả cảm giác của bạn khi nhìn vào tấm ảnh này. Trong ảnh là robot Sophia.

Ở thời điểm hiện tại, những video giả danh như vậy đều trông rất quái lạ. Nó mang lại cho bản cảm giác của uncanny valley - thung lũng kỳ lạ, cảm giác quái gở bạn cảm thấy khi nhìn vào một sản phẩm cực kỳ giống người, nhưng không hề mang lại cảm giác “giống người” chút nào. Hơn nữa, những điểm làm giả còn rất dễ nhận ra: khẩu hình của người nói lệch lạc ở nhiều điểm, có những điểm hình ảnh không ăn khớp với hình nền, do sức mạnh xử lý hình ảnh của máy tính vẫn chưa tới tầm chân thực.

Ta có thể làm gì?

Cho tới thời điểm này, có hai yếu tố khách quan khiến các video deepfake chưa gây nguy hiểm bằng đúng tiềm năng của nó, mới chỉ dừng lại ở “nội dung khiêu dâm”. Đó là:

- Công nghệ làm ra các nội dung này vẫn còn khá tốn kém. Mặc dù tốc độ làm giả đã được cải thiện đáng kể, tới mức đáng sợ.

- Các nhà nghiên cứu vẫn đang ra sức phát triển công cụ phát hiện ra nội dung giả mạo. Công nghệ có thể tạo ra được những thứ đáng ghê tởm đó, công nghệ cũng sẽ tìm được cách phát hiện và ngăn chặn nó lây lan.

Còn về mỗi cá nhân, chỉ có thể đưa ra lời khuyên về việc tỉnh táo khi dùng Internet, bên cạnh đó đừng chia sẻ và tương tác với những nội dung độc hại. Bạn đang giúp những kẻ đứng đằng sau thu lời bất chính và góp phần tăng tốc độ lây lan của thứ dịch bệnh mới mang tên deepfake.


Giới khoa học bất ngờ trước video chim biết dùng công cụ: một con hải âu dùng que để gãi ngứa

tinybook tinybook 3 tuần 1 ngày
Giới khoa học bất ngờ trước video chim biết dùng công cụ: một con hải âu dùng que để gãi ngứa
Tại sao con chim lại dùng que để gãi bụng, thay vì dùng mỏ của nó cho tiện?

Phát hiện hài cốt trẻ sơ sinh 2100 tuổi đội loại “mũ bảo hiểm” kì dị làm từ hộp sọ của đứa trẻ khác

tinybook tinybook 3 tuần 1 ngày
Phát hiện hài cốt trẻ sơ sinh 2100 tuổi đội loại “mũ bảo hiểm” kì dị làm từ hộp sọ của đứa trẻ khác
Các chuyên gia khảo cổ vừa phát hiện các bộ hài cốt trẻ sơ sinh đội 'mũ bảo hiểm' làm từ hộp sọ của những đứa trẻ khác có niên đại 2100 năm trước

Quỷ La Sát đáng sợ trong thần thoại Ấn Độ thực chất là giống người cổ đã bị tuyệt chủng cách đây 4 vạn năm

tinybook tinybook 3 tuần 1 ngày
Quỷ La Sát đáng sợ trong thần thoại Ấn Độ thực chất là giống người cổ đã bị tuyệt chủng cách đây 4 vạn năm
Loài quỷ La Sát trong thần thoại Ấn Độ thực chất chính là một giống người cổ đã bị tuyệt chủng, từng sống chung và hôn phối với loài người hiện đại chúng ta.

Tiết lộ "khủng" về hậu trường Mắt Biếc: Công nghệ 3 triệu USD tầm cỡ thế giới, trí tuệ nhân tạo và tự động hóa hoàn toàn

tinybook tinybook 3 tuần 2 ngày
Tiết lộ "khủng" về hậu trường Mắt Biếc: Công nghệ 3 triệu USD tầm cỡ thế giới, trí tuệ nhân tạo và tự động hóa hoàn toàn
Những chia sẻ từ Giám đốc Kỹ thuật Mắt Biếc đã cho thấy quy mô chi tiết của công nghệ tiên tiến áp dụng vào mọi góc cạnh sản xuất bộ phim.

Bí ẩn bao trùm hòn đảo cứ người lạ xâm phạm là bị tấn công đến chết cùng lời kể của người phụ nữ may mắn sống sót hé lộ chi tiết đáng sợ

tinybook tinybook 3 tuần 2 ngày
Bí ẩn bao trùm hòn đảo cứ người lạ xâm phạm là bị tấn công đến chết cùng lời kể của người phụ nữ may mắn sống sót hé lộ chi tiết đáng sợ
Hòn đảo hoàn toàn cách biệt với thế giới bên ngoài và bất khả xâm phạm. Bất kỳ ai tiến đến gần khu vực "nhạy cảm" này đều bị tấn công hoặc giết chết.

Làm thế nào mà máy chạy bộ biến từ dụng cụ tra tấn thành một máy tập thể dục đại chúng?

tinybook tinybook 3 tuần 2 ngày
Làm thế nào mà máy chạy bộ biến từ dụng cụ tra tấn thành một máy tập thể dục đại chúng?
Máy chạy bộ chả có gì xa lạ với chúng ta ngày nay, nhiều người luôn ao ước có thể mua một chiếc máy chạy bộ để trong nhà nhưng trên thực tế, trong quá khứ đây là là một loại dụng cụ tra tấn.

NASA công bố tàu thăm dò mới: phóng vào tháng Bảy năm sau, chưa có tên nhưng đã có trách nhiệm nặng nề - làm sứ mệnh tiền đề cho con người lên Sao Hỏa

tinybook tinybook 3 tuần 2 ngày
NASA công bố tàu thăm dò mới: phóng vào tháng Bảy năm sau, chưa có tên nhưng đã có trách nhiệm nặng nề - làm sứ mệnh tiền đề cho con người lên Sao Hỏa
Tàu thăm dò mới của NASA mang theo hai sứ mệnh: tìm kiếm sự sống, và dọn đường cho một dạng sống khác lên Sao Hoả.

Thế giới sẽ đối mặt với hàng loạt thảm họa nếu rừng Amazon cháy rụi: 90% bệnh tật không có thuốc chữa, 50% loài sinh vật bị tiêu diệt

tinybook tinybook 3 tuần 3 ngày
Thế giới sẽ đối mặt với hàng loạt thảm họa nếu rừng Amazon cháy rụi: 90% bệnh tật không có thuốc chữa, 50% loài sinh vật bị tiêu diệt
Trong năm 2019, chúng ta đã chứng kiến sự mất mát vô cùng to lớn của một bộ phận rừng Amazon do hỏa hoạn gây ra, kéo theo biết bao thảm cảnh. Nếu một ngày cánh rừng kỳ vĩ này hoàn toàn bị xóa sổ, rất có thể Trái đất sẽ phải đối mặt với những bi kịch còn ghê gớm hơn nhiều.

Tổng hợp và kiểm chứng những sự thật thú vị mà cộng đồng Reddit thường kể với cư dân mạng

tinybook tinybook 3 tuần 3 ngày
Tổng hợp và kiểm chứng những sự thật thú vị mà cộng đồng Reddit thường kể với cư dân mạng
Biết thêm kiến thức chưa bao giờ là thiệt đúng không?

Loài người thật may mắn vì những loài chim ăn thịt khổng lồ này đã tuyệt chủng

tinybook tinybook 3 tuần 3 ngày
Loài người thật may mắn vì những loài chim ăn thịt khổng lồ này đã tuyệt chủng
Thật may mắn cho nhân loại thời hiện đại vì những loài chim ăn thịt khổng lồ này đã bị tuyệt chủng, nếu không rất có thể chúng ta sẽ biến thành bữa ăn nhẹ của chúng bất cứ lúc nào.

Điều gì xảy ra nếu đường kính của Trái Đất tăng thêm 1 cm mỗi ngày?

tinybook tinybook 3 tuần 3 ngày
Điều gì xảy ra nếu đường kính của Trái Đất tăng thêm 1 cm mỗi ngày?
Nếu đường kính Trái Đất tăng thêm 1cm mỗi ngày thì khi nào vận mệnh của hành tinh xanh sẽ bị diệt vong?

[Vietsub] Ngôi làng Ấn Độ có tỷ lệ tội phạm bằng 0: nhà không cửa, cửa hiệu không khóa, 500 năm không hề có trộm cắp

tinybook tinybook 3 tuần 3 ngày
[Vietsub] Ngôi làng Ấn Độ có tỷ lệ tội phạm bằng 0: nhà không cửa, cửa hiệu không khóa, 500 năm không hề có trộm cắp
Bạn có muốn chuyển tới sống tại Shani Shingnapur, ngôi làng nhỏ chưa xảy ra trộm cắp suốt nửa thiên niên kỷ nay?

Nghiên cứu khoa học: Con người và chuối là họ hàng thân thiết, ADN giống nhau đến 50%?

tinybook tinybook 3 tuần 4 ngày
Nghiên cứu khoa học: Con người và chuối là họ hàng thân thiết, ADN giống nhau đến 50%?
Có thông tin cho rằng chuối có ADN giống người 50%. Nhưng sự thực có phải vậy không?

Những bức ảnh về các khu vực bí mật trên máy bay mà du khách không được phép bén mảng tới bao giờ

tinybook tinybook 3 tuần 4 ngày
Những bức ảnh về các khu vực bí mật trên máy bay mà du khách không được phép bén mảng tới bao giờ
Có những khu vực thậm chí hành khách còn không nghĩ là có tồn tại.

Giữa lúc bong bóng xe ô tô điện có thể sắp 'nổ tung', Trung Quốc đang gấp rút ra mắt chiếc xe hơi điện 'made in China' đầu tiên

tinybook tinybook 3 tuần 4 ngày
Giữa lúc bong bóng xe ô tô điện có thể sắp nổ tung, Trung Quốc đang gấp rút ra mắt chiếc xe hơi điện made in China đầu tiên
Theo dữ liệu từ Hiệp hội Công nghiệp ô tô Trung Quốc, số lượng xe sử dụng nguồn năng lượng mới được bán trong năm 2014 đã tăng gấp 4 lần so với năm trước và tiếp tục nhân lên hơn 4 lần trong năm 2015 với con số hơn 330.000 xe.

Phát hiện chưa từng có: Mưa tuyết bằng sắt đang rơi dồn dập bên trong lõi Trái Đất

tinybook tinybook 3 tuần 4 ngày
Phát hiện chưa từng có: Mưa tuyết bằng sắt đang rơi dồn dập bên trong lõi Trái Đất
Ở trong lòng Trái Đất cũng tồn tại một dạng ‘mưa tuyết’ đặc biệt, khác hoàn toàn với tuyết trên mặt đất.

Tuổi thọ của các loài động vật được định sẵn trong DNA, và loài người chỉ thọ 38 năm mà thôi

tinybook tinybook 3 tuần 4 ngày
Tuổi thọ của các loài động vật được định sẵn trong DNA, và loài người chỉ thọ 38 năm mà thôi
Loài người có tuổi thọ "tự nhiên" là khoảng 38 năm, theo một phương thức mới dùng để ước tính tuổi thọ của các chủng loài khác nhau dựa trên phân tích DNA.

Những bức "ảnh tự sướng" lâu đời nhất mọi thời đại

tinybook tinybook 3 tuần 4 ngày
Những bức "ảnh tự sướng" lâu đời nhất mọi thời đại
Mọi người đã chụp "ảnh tự sướng" từ rất lâu, nhưng tại thời điểm những bức ảnh này xuất hiện, chúng được gọi là "chân dung tự họa".

Nghiên cứu: Ăn uống điều độ, đúng bữa, đúng giờ giúp ngăn bệnh tiểu đường, huyết áp cao?

tinybook tinybook 3 tuần 4 ngày
Nghiên cứu: Ăn uống điều độ, đúng bữa, đúng giờ giúp ngăn bệnh tiểu đường, huyết áp cao?
Theo một nghiên cứu mới đây cho thấy, việc ăn uống trong một khoảng thời gian quy định có thể giúp giảm cân, cải thiện chất lượng giấc ngủ và chống huyết áp cao.

Tìm hiểu đôi nét về Antonov An-225, siêu máy bay vận tải được mệnh danh là “chú chim” lớn nhất bầu trời

tinybook tinybook 3 tuần 4 ngày
Tìm hiểu đôi nét về Antonov An-225, siêu máy bay vận tải được mệnh danh là “chú chim” lớn nhất bầu trời
Trong bài viết này, chúng ta sẽ cùng khám phá những điều thú vị xoay quanh chiếc máy bay vận tải lớn nhất thế giới hiện nay.

Những sự kiện lịch sử nghe có vẻ hư cấu nhưng lại hoàn toàn có thật

tinybook tinybook 3 tuần 4 ngày
Những sự kiện lịch sử nghe có vẻ hư cấu nhưng lại hoàn toàn có thật
Thế giới chúng ta đang sống là một nơi đầy rẫy những sự điên rồ và trải dài lịch sử nhân loại luôn có những câu chuyện lịch sử vô cùng lạ lùng, tưởng chừng như chúng hoàn toàn hư cấu.

Phát hiện tác phẩm nghệ thuật lâu đời nhất thế giới trong hang động ở Indonesia

tinybook tinybook 3 tuần 4 ngày
Phát hiện tác phẩm nghệ thuật lâu đời nhất thế giới trong hang động ở Indonesia
Bức tranh trong vách hang Leang Bulu' Sipong trên đảo Sulawesi của Indonesia có thể sẽ là tác phẩm nghệ thuật lâu đời nhất thế giới, sau khi giới khoa học xác định bức vẽ này đã tồn tại gần 44.000 năm.

Khám phá ngôi đền cổ 1.200 năm tuổi được tạc từ duy nhất một khối đá siêu to khổng lồ

tinybook tinybook 3 tuần 5 ngày
Khám phá ngôi đền cổ 1.200 năm tuổi được tạc từ duy nhất một khối đá siêu to khổng lồ
Ngôi đền Hindu cổ 1.200 năm tuổi này được chạm khắc từ duy nhất một khối đá khiến cho nhiều người cảm thấy kinh ngạc và cho rằng có lẽ nó không được tạo ra từ bàn tay của con người.

Các nhà khoa học đã tìm ra giải pháp giúp bia có nhiều bọt hơn và bột giặt ít bọt đi

tinybook tinybook 3 tuần 5 ngày
Các nhà khoa học đã tìm ra giải pháp giúp bia có nhiều bọt hơn và bột giặt ít bọt đi
Thông qua một nghiên cứu về cách hình thành bọt và tuổi thọ bọt, các nhà nghiên cứu đã tìm ra cách để giữ được bọt tồn tại lâu hơn hoặc khắc chế không cho bọt xuất hiện quá nhiều khi cần thiết.

Đi tìm lời giải cho những đường hầm đá bí ẩn tại Nam Mỹ, đầy dấu vết móng vuốt của một loài thú khổng lồ

tinybook tinybook 3 tuần 5 ngày
Đi tìm lời giải cho những đường hầm đá bí ẩn tại Nam Mỹ, đầy dấu vết móng vuốt của một loài thú khổng lồ
Tại Nam Mỹ, có những đường hầm đá khổng lồ không phải là dấu vết của kiến tạo tự nhiên, cũng không phải do bàn tay của con người tạo ra, thay vào đó, chúng tồn tại rất nhiều dấu vết của móng vuốt.

Xưởng sản xuất khuôn giày thủ công có lịch sử hơn 100 năm tại Nhật Bản phải đóng cửa vì không theo kịp công nghệ in 3D

tinybook tinybook 3 tuần 5 ngày
Xưởng sản xuất khuôn giày thủ công có lịch sử hơn 100 năm tại Nhật Bản phải đóng cửa vì không theo kịp công nghệ in 3D
Cái kết buồn cho một xưởng sản xuất thủ công với lịch sử hết sức lâu đời của Nhật Bản

Dùng thiết bị lặn khám phá đáy đại dương tăm tối, tình cờ phát hiện loài cá kì lạ có thể đứng bằng 'chân'

tinybook tinybook 3 tuần 5 ngày
Dùng thiết bị lặn khám phá đáy đại dương tăm tối, tình cờ phát hiện loài cá kì lạ có thể đứng bằng chân
Dài tới 1,5m, nặng gần 50kg, loài cá hiếm này có lớp vây rất khỏe, có thể sử dụng để di chuyển dưới đáy biển như bàn chân của động vật trên cạn

“Công nghệ Giọng nói” Bước ngoặt trải nghiệm người dùng thời đại số

tinybook tinybook 3 tuần 5 ngày
“Công nghệ Giọng nói” Bước ngoặt trải nghiệm người dùng thời đại số
Khi cuộc cách mạng công nghệ thời giao tiếp bằng giọng nói hoàn tất cũng là lúc bất kỳ ai trong chúng ta đều có thể trải nghiệm những thiết bị thông minh bằng chính giọng nói của mình.

Anh em shipper bên Mỹ lập hẳn group Facebook về những chú chó mà họ gặp hàng ngày khi đang giao hàng

tinybook tinybook 3 tuần 6 ngày
Anh em shipper bên Mỹ lập hẳn group Facebook về những chú chó mà họ gặp hàng ngày khi đang giao hàng
Vào năm 2013, những tài xế của UPS Sean McCarren đã tạo ra một nhóm Facebook để kể về những người bạn 4 chân mà họ gặp trên các tuyến đường hàng ngày mà họ đi giao hàng.

Loài chim di cư có thực sự là do chúng sợ lạnh?

tinybook tinybook 3 tuần 6 ngày
Loài chim di cư có thực sự là do chúng sợ lạnh?
Chim di trú, chim di cư hay sự di cư của chim chỉ sự di chuyển đều đặn theo mùa, thường trên một đường bay theo chiều bắc nam giữa nơi sinh sản và nơi trú đông. Nhiều loài chim có tập tính di cư, nhưng thực sự quá trình thay đổi chỗ ở này có phải là do chúng sợ lạnh?
tinybook Công Nghệ Thông Tin








Chat