Các gã khổng lồ công nghệ đang chạy đua trong công cuộc ngăn chặn video bạo lực phát tán trên mạng xã hội

Các gã khổng lồ công nghệ đang chạy đua trong công cuộc ngăn chặn video bạo lực phát tán trên mạng xã hội
Theo: Tuấn Hưng Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Đây không phải công việc của chỉ riêng Facebook, YouTube, Google mà còn là mục tiêu của mọi nền tảng truyền thông nữa.

Các công ty công nghệ, từ Singapore cho đến Phần Lan, đều đang đua nhau phát triển và cải tiến trí tuệ nhân tạo để chúng có thể tự động phát hiện và ngăn chặn những video bạo lực như giết người, hành hung, tự sát,… khỏi phát tán và lan rộng trên mạng xã hội.

Thế nhưng hiện nay vẫn chưa có bất kỳ một cái tên nào lên tiếng giải quyết hoàn toàn vấn đề nan giải nói trên.

Một người đàn ông Thái đã quay lại cảnh mình giết chết đứa con gái 11 tháng tuổi bằng live stream trên Facebook vào tuần trước chính là hồi chuông cảnh báo gần đây nhất về một làn sóng những video bạo lực được quay trực tiếp trên mạng xã hội này. Vụ việc này khiến nhiều câu hỏi được đặt ra về hệ thống báo cáo của Facebook và làm sao để những đoạn clip này bị gỡ bỏ nhanh hơn.

Hàng loạt những ông lớn khác cũng đang chật vật với vấn nạn này, những người trong cuộc đưa tin. Google – gã khổng lồ công cụ tìm kiếm cũng đã đối mặt với nhiều vấn đề tương tự với dịch vụ YouTube của mình – và Facebook đang tìm cách giải quyết.

Phần lớn những công ty này tập trung vào deep learning: một dạng trí tuệ nhân tạo tận dụng tối đa hiệu quả của neural networks trên máy tính. Đây là phương thức mà David Lissmyr, nhà đồng sáng lập của công ty phân tích hình ảnh và video ở Paris có tên Sightengine, phát biểu hồi năm 1950 trong nỗ lực miêu tả lại cách thức mà những neuron thần kinh hoạt động và tương tác với nhau trong bộ não.

Thế nhưng giáo dục máy tính học bằng nhiều lớp neuron nhân tạo mới chỉ được đưa vào áp dụng trong một vài năm trở lại đây, Matt Zeiler, nhà đồng sáng lập kiêm CEO của Clarifai, một công ty phân tích video nữa có trụ sở tại New York.

Chúng ta chỉ mới đây có sức mạnh vi tính và thu thập dữ liệu đủ để dạy những hệ thống này mà thôi, nhưng nhờ nó mà ta có thể “tạo ra những bước tiến vượt bậc về mặt chính xác và độ hiệu quả của phương thức machine learning”, Zeiler cho biết.

Hệ thống dạy học bắt đầu với những hình ảnh được đưa vào nhờ những lớp neuron “thần kinh” của máy tính, sau đó “học” để nhận ra biên báo, nói hay một video bạo lực.

Những hành vi bao lực bao gồm chặt chém hay liên quan đến máu me, Abhijit Shanbhag, CEO của Graymatics chịu trách nhiệm lọc video và hình ảnh cũng như nội dung cho nhiều mạng xã hội ở Châu Á, có trụ sở tại Singapore. Nếu như các kỹ sư của ông không tìm được video thích hợp để thử nghiệm cho hệ thống machine learning của mình thì họ sẽ tự quay chúng trong văn phòng.

Zeiler nói rằng thuật toán của Clarifai còn có thể nhận diện đồ vật trong một video, và đồ vật đó có thể là hung khí như một con dao, hay một khẩu súng chẳng hạn.

Thế nhưng vẫn còn đó giới hạn.

Một là phần mềm này chỉ phát minh hiệu quả đối với những trường hợp video tương tự như ví dụ mà nó được học. Khi một người đàn ông quyết định treo cổ một đứa trẻ sơ sinh thì phần mềm này lại không nhận biết được bởi nó chưa được “học đến phần này.”

“Khi người ta càng ngày càng sáng tạo ra những hành vi thô bạo và ghê tởm thì hệ thống này lại tiếp tục phải được rèn luyện thêm về ví dụ đó.” Shanbhag.

Một điều nữa cần được đề cập đến đó là bạo lực là một thứ có tính chất chủ quan. Một cảnh được quay lại với nhịp độ nhanh cùng nhiều máu me rất dễ dàng nhận diện, Junle Wang, trưởng bộ phận nghiên cứu và phát triển của PicPurify – công ty Pháp hiện đang tiến hành phát triển phương thức phát hiện những video bạo lực mà không đổ máu hay có vũ khí. Thay vào đó là cả tra tấn về mặt tâm lý nữa, thế nhưng điều này khá là khó khăn – đồng nghiệp của ông, CEO Yann Mareschal hé lộ.

Không chỉ vậy, có những nội dung nên được liệt kê và gây bất đồng mà không cần thiết phải có hành vi bạo lực – ví dụ như tấm lá cờ ISIS chẳng hạn – Shanbhag nói thêm. Điều này sẽ cần hệ thống được điều chỉnh tùy thuộc vào người dùng.

Cần lắm sự giám sát của con người

Một rào cản nữa là mặc dù tự động hóa có thể giúp đỡ, thế nhưng chúng ta vẫn phải chung tay xác minh xem nội dung bị đánh dấu là nguy hiểm kia có đúng là video bạo lực hay không, Mika Rautiainen, nhà đồng sáng lập và CEO của Valossa – công ty Phần Lan chuyên tìm kiếm và loại bỏ những nội dung không mong muốn của các khách hàng trong giới truyền thống, giải trí.

Quả không sai, ngoài dựa trên hình ảnh của chúng thì còn phải đánh giá các yếu tố khác nữa. Ông Wang của PicPurify nói rằng sử dụng thuật toán để giám sát phản ứng của người xem – ví dụ như việc đăng tải lại video này với tốc độ nhanh chóng mặt – có thể là một khía cạnh đáng chú ý.

Michael Pogrebnyak, CEO của Kuznech, nói rằng công ty liên hợp Nga-Mỹ của ông đã thêm vào bộ sưu tập những thuật toán có khả năng nhận biết hình khiêu dâm – hầu hết phụ thuộc vào hệ thống nhận diện da và chuyển động của camera, khả năng nhận biết logo của studio sản xuất phim và màn hình cảnh báo nội dung 18 cũng như bộ luật của FBI.

Facebook nói rằng họ đang sử dụng công nghệ tương tự để phát hiện hình ảnh khỏa thân, bạo lực và nhiều chủ đề khác không phù hợp với chính sách của họ. Vị đại diện không đưa ra bất cứ bình luận gì khi được hỏi phần mềm này có được sử dụng cho vụ việc ở Thái hay những trường hợp giết người gần đây hay không.

Một vài công ty nói rằng việc tích hợp công nghệ này vào sản phẩm của mình có thể chậm hơn dự kiến, phần nhiều vì chi phí phát sinh. Và họ đang nỗ lực hết mình để thay đổi điều này. Các công ty quản lý nội dung do người dùng tạo ra sắp tới sẽ chịu áp lực nhiều hơn từ chính phủ, Rautiainen của Valossa cho biết.

“Kể cả không bị luật pháp thắt chặt, việc không sang lọc được nội dung độc hại sẽ khiến thương hiệu của họ bị ảnh hưởng ít nhiều,” Rautiainen nói.

Theo reuters

Bầu khí quyển của Trái Đất thay vì 5 lớp thì vẫn còn một lớp nữa mà bạn chưa hề biết tới

tinybook tinybook 5 tháng 2 giờ
Bầu khí quyển của Trái Đất thay vì 5 lớp thì vẫn còn một lớp nữa mà bạn chưa hề biết tới
Nó có thể là khó tin, nhưng đối với một phần nào đó của bầu khí quyển, nghiên cứu khoa học vẫn chưa được thực hiện.

Sẽ thế nào khi rau được trồng trong nhà máy, bằng robot, AI và thế hệ nông dân 4.0?

tinybook tinybook 5 tháng 2 giờ
Sẽ thế nào khi rau được trồng trong nhà máy, bằng robot, AI và thế hệ nông dân 4.0?
Hơn 1.600 công ty khởi nghiệp đã đầu tư 1,8 tỷ USD vào các nông trại thẳng đứng trong vòng 1 thập kỷ qua.

Thuộc hệ “chăm săn sale” phải nằm lòng chiêu này, vừa sắm được hàng ngon vừa bảo toàn lương đầu tháng!

tinybook tinybook 5 tháng 7 giờ
Thuộc hệ “chăm săn sale” phải nằm lòng chiêu này, vừa sắm được hàng ngon vừa bảo toàn lương đầu tháng!
Cứ mỗi dịp đầu tháng, các chương trình giảm giá khởi động thì cũng là lúc các tín đồ mua sắm khoe chiến tích săn sale và chia sẻ cách mua thế nào được hưởng được lợi nhiều nhất.

Warner Bros. hé lộ loạt chi tiết mới trong Godzilla vs. Kong: Hết đánh trên bờ lại lôi nhau xuống biển, chắc chắn có kẻ bại trận, không có chuyện giảng hòa

tinybook tinybook 5 tháng 8 giờ
Warner Bros. hé lộ loạt chi tiết mới trong Godzilla vs. Kong: Hết đánh trên bờ lại lôi nhau xuống biển, chắc chắn có kẻ bại trận, không có chuyện giảng hòa
Được biết, tổng thời lượng các phân cảnh đối đầu giữa Godzilla và Kong sẽ lên đến gần 20 phút trong bom tấn này, dự kiến ra mắt vào ngày 31/3 tới đây.

Chính xác thì B.1.1.7 là "dòng", "biến chủng" hay "biến thể" của virus SARS-CoV-2?

tinybook tinybook 5 tháng 12 giờ
Chính xác thì B.1.1.7 là "dòng", "biến chủng" hay "biến thể" của virus SARS-CoV-2?
Các nhà sinh học rất muốn báo chí và công chúng sử dụng đúng thuật ngữ chuyên môn của họ.

TopCV - Nền tảng công nghệ tuyển dụng “sát cánh” cùng nhà tuyển dụng

tinybook tinybook 5 tháng 15 giờ
TopCV - Nền tảng công nghệ tuyển dụng “sát cánh” cùng nhà tuyển dụng
Sự phát triển của các nền tảng tuyển dụng đang là cơ hội giúp nhà tuyển dụng tiếp cận được ứng viên dễ dàng hơn và TopCV đang là trở thành sự lựa chọn hàng đầu.

Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các bom tấn của Hollywood

tinybook tinybook 5 tháng 1 ngày
Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các bom tấn của Hollywood
Với công nghệ de-aging, các diễn viên sẽ được trẻ hóa một cách đơn giản hơn, chân thực hơn thay vì dành hàng tiếng đồng hồ cho khâu trang điểm và lựa chọn trang phục.

WandaVision: Lý giải về Chaos Magic, ma thuật khủng khiếp của Scarlet Witch với khả năng thay đổi bản chất thực tại

tinybook tinybook 5 tháng 1 ngày
WandaVision: Lý giải về Chaos Magic, ma thuật khủng khiếp của Scarlet Witch với khả năng thay đổi bản chất thực tại
Tập phim mới nhất của WandaVision đã chính thức mang đến khái niệm về Chaos Magic - 1 trong những nguồn sức mạnh lâu đời và khủng khiếp nhất trong nguyên tác truyện tranh Marvel.

Thí nghiệm với hai người mất xúc giác chứng minh thế giới chúng ta đang sống không phải là thực tại ảo

tinybook tinybook 5 tháng 1 ngày
Thí nghiệm với hai người mất xúc giác chứng minh thế giới chúng ta đang sống không phải là thực tại ảo
Tất cả chúng ta không phải là những bộ não bị nhúng trong bình thủy tinh.

Warner Bros. xác nhận sẽ "đập đi xây lại" Superman, Henry Cavill sắp bị cho ra rìa?

tinybook tinybook 5 tháng 1 ngày
Warner Bros. xác nhận sẽ "đập đi xây lại" Superman, Henry Cavill sắp bị cho ra rìa?
Warner Bros. đã công bố dự án Superman reboot do J.J. Abrams sản xuất, và có thể Henry Cavill sẽ không phải cái tên cho vai chính mà họ đang nhắm đến.

Những con kênh nổi tiếng của Venice đang cạn nước: Hậu quả của biến đổi khí hậu?

tinybook tinybook 5 tháng 1 ngày
Những con kênh nổi tiếng của Venice đang cạn nước: Hậu quả của biến đổi khí hậu?
Triều cường đã rút cạn các con kênh của thành phố được mệnh danh là lãng mạn nhất châu Âu.

Zulihome - Điểm đến tin cậy cho gia đình Việt muốn mua robot hút bụi thông minh

tinybook tinybook 5 tháng 1 ngày
Zulihome - Điểm đến tin cậy cho gia đình Việt muốn mua robot hút bụi thông minh
Ngay từ khi thành lập và phát triển, Zulihome đã chứng minh được sự uy tín với khách hàng bằng việc cung cấp robot hút bụi thông minh chính hãng từ các thương hiệu nổi tiếng.

Mày mò tìm kiếm ở thành phố diệt vong Pompeii, các nhà khoa học sửng sốt khi khám phá ra thứ "độc nhất vô nhị" vô cùng quý giá

tinybook tinybook 5 tháng 1 ngày
Mày mò tìm kiếm ở thành phố diệt vong Pompeii, các nhà khoa học sửng sốt khi khám phá ra thứ "độc nhất vô nhị" vô cùng quý giá
Một cỗ xe ngựa 2.000 năm tuổi của người La Mã đã được phát hiện "gần như nguyên vẹn" ở ngoại ô thành phố diệt vong Pompeii.

Những sự thật thú vị và cực dị về Gollum, nhân vật độc đáo nhất của Lord of the Rings cũng như nền văn hóa đại chúng thế giới

tinybook tinybook 5 tháng 2 ngày
Những sự thật thú vị và cực dị về Gollum, nhân vật độc đáo nhất của Lord of the Rings cũng như nền văn hóa đại chúng thế giới
Ra đời vào năm 1937 dưới ngòi bút của nhà văn J. R. R. Tolkien trong bộ tiểu thuyết The Hobbit, Gollum có thể coi là 1 nhân vật cực kỳ khác biệt và trở thành nét đặc trưng ấn tượng khó phai trong vũ trụ Lord of the Rings rộng lớn.

WandaVision: Sức mạnh của Wanda là bẩm sinh, không liên quan đến Mind Stone, X-Men đang ở gần MCU hơn bao giờ hết

tinybook tinybook 5 tháng 2 ngày
WandaVision: Sức mạnh của Wanda là bẩm sinh, không liên quan đến Mind Stone, X-Men đang ở gần MCU hơn bao giờ hết
Tập phim mới nhất của WandaVision đã hé lộ nguồn gốc sức mạnh của Wanda Maximoff, và nó không bắt nguồn từ Mind Stone như chúng ta vẫn lầm tưởng.

[CHÍNH THỨC] 9 nhóm đối tượng ưu tiên và miễn phí tiêm vaccine COVID-19

tinybook tinybook 5 tháng 2 ngày
[CHÍNH THỨC] 9 nhóm đối tượng ưu tiên và miễn phí tiêm vaccine COVID-19
Nghị quyết số 21/NQ-CP ngày 26/2/2021 về mua và sử dụng vaccine phòng COVID-19 nêu rõ 9 nhóm đối tượng ưu tiên tiêm và miễn phí.

Thủ đô Anh Quốc đột nhiên thành "vương quốc chuột", to khổng lồ và nhiều gấp đôi con người: Tại sao có chuyện đó?

tinybook tinybook 5 tháng 2 ngày
Thủ đô Anh Quốc đột nhiên thành "vương quốc chuột", to khổng lồ và nhiều gấp đôi con người: Tại sao có chuyện đó?
Người London có thể sẽ sốc khi chứng kiến chuột xuất hiện ở những nơi chưa từng thấy. Lại còn là chuột khổng lồ.

Kinh dị chuyện nhà vệ sinh công cộng thời La Mã, nơi tất cả mọi người chùi chung bằng 1 cái que

tinybook tinybook 5 tháng 2 ngày
Kinh dị chuyện nhà vệ sinh công cộng thời La Mã, nơi tất cả mọi người chùi chung bằng 1 cái que
Đó là một cái que buộc bọt biển được 500 anh em truyền tay nhau chùi đến lúc hỏng thì thôi...

Điệp viên nghỉ hưu kể chuyện nghề: Hóa ra những gì chúng ta xem trên phim lâu nay thực sự tồn tại, thậm chí đôi khi còn thú vị hơn thế

tinybook tinybook 5 tháng 2 ngày
Điệp viên nghỉ hưu kể chuyện nghề: Hóa ra những gì chúng ta xem trên phim lâu nay thực sự tồn tại, thậm chí đôi khi còn thú vị hơn thế
Điệp viên chắc chắn là một trong những nghề thú vị, đặc biệt, nguy hiểm và khiến mọi người tò mò bậc nhất thế giới.

Siêu thị tại Hà Lan bị doạ tẩy chay vì bán phở Việt “fake”: Trông chẳng khác gì mì trộn, sợi vàng như nghệ, ăn kèm sốt thịt gà

tinybook tinybook 5 tháng 2 ngày
Siêu thị tại Hà Lan bị doạ tẩy chay vì bán phở Việt “fake”: Trông chẳng khác gì mì trộn, sợi vàng như nghệ, ăn kèm sốt thịt gà
Nhiều khách hàng bức xúc khi nhìn thấy món phở "quốc hồn quốc tuý" của Việt Nam bị chế tạo theo một phiên bản hoàn toàn khác, thậm chí họ còn kêu gọi tẩy chay chuỗi siêu thị này.

Bill Gates, vắc xin và những chiếc khẩu trang

tinybook tinybook 5 tháng 2 ngày
Bill Gates, vắc xin và những chiếc khẩu trang
Dù đã được tiêm vắc xin chống Covid-19 nhưng tỷ phú từ thiện Bill Gates nói rằng ông vẫn tiếp tục đeo khẩu trang, nhất là khi ở gần những người cao tuổi chưa được tiêm phòng.

"Soi" Joker của Justice League: Đổi giọng, che hình xăm để "lột xác" từ trong ra ngoài

tinybook tinybook 5 tháng 3 ngày
"Soi" Joker của Justice League: Đổi giọng, che hình xăm để "lột xác" từ trong ra ngoài
Snyder đã hé lộ tạo hình đầu tiên về Joker trong đoạn trailer mới ra mắt. Không quá lời khi cho rằng Justice League của Snyder có cách tiếp cận hoàn toàn mới về nhân vật này. Sự lột xác này mạnh mẽ đến mức nào?

Đây là cây đinh ba của Aquaman với khả năng phóng nước cực đỉnh, dùng để rửa bát siêu sạch

tinybook tinybook 5 tháng 3 ngày
Đây là cây đinh ba của Aquaman với khả năng phóng nước cực đỉnh, dùng để rửa bát siêu sạch
Không quá bá đạo như nguyên tác truyện tranh, nhưng cây đinh ba của Aquaman này hoàn toàn có thể sử dụng để rửa bát, rửa ô tô hay đấu súng nước với bạn bè.

Bóng tối phía sau ngành công nghiệp anime tỷ USD của Nhật Bản

tinybook tinybook 5 tháng 3 ngày
Bóng tối phía sau ngành công nghiệp anime tỷ USD của Nhật Bản
Đại dịch thúc đẩy sự bùng nổ của ngành công nghiệp anime Nhật Bản. Nhưng dù khối lượng công việc và lợi nhuận của ngành tăng lên, các họa sĩ diễn hoạt vẫn nhận mức lương ít ỏi.

[Video] Hé lộ loạt kỹ xảo đỉnh cao giúp Lord of the Rings vẫn đẹp lung linh, không hề "out meta" so với phim ngày nay

tinybook tinybook 5 tháng 4 ngày
[Video] Hé lộ loạt kỹ xảo đỉnh cao giúp Lord of the Rings vẫn đẹp lung linh, không hề "out meta" so với phim ngày nay
Dù đã 2 thập kỷ trôi qua nhưng những kỹ xảo trong bộ 3 phim The Lord of the Rings vẫn cứ là đẹp mê hồn và không hề bị lép vế so với các tác phẩm hiện tại

WandaVision: Những đoạn quảng cáo vô thưởng vô phạt, vô vị vô duyên hóa ra lại liên quan rất mật thiết đến Wanda

tinybook tinybook 5 tháng 4 ngày
WandaVision: Những đoạn quảng cáo vô thưởng vô phạt, vô vị vô duyên hóa ra lại liên quan rất mật thiết đến Wanda
Những đoạn quảng cáo trong WandaVision có thể coi là easter egg nhỏ liên quan đến quá khứ, hiện tại và cả tương lai của nữ pháp sư quyền năng Wanda Maximoff.

Trailer Army of the Dead lên sóng: Mãn nhãn với phi vụ cướp nhà băng gay cấn giữa trung tâm đại dịch zombie

tinybook tinybook 5 tháng 4 ngày
Trailer Army of the Dead lên sóng: Mãn nhãn với phi vụ cướp nhà băng gay cấn giữa trung tâm đại dịch zombie
Dưới bàn tay của đạo diễn Zack Snyder, Army of the Dead sẽ là 1 luồng gió mới lạ cho dòng phim zombie vốn đã quá quen thuộc với khán giả thế giới.

Bí mật ẩn sau 6 chiếc ghế luôn 'cháy vé' của hãng hàng không Singapore Airlines

tinybook tinybook 5 tháng 4 ngày
Bí mật ẩn sau 6 chiếc ghế luôn cháy vé của hãng hàng không Singapore Airlines
Không phải hạng ghế thương gia, trên chiếc Airbus A350-900ULR của hãng Singapore Airline luôn có 6 chỗ ngồi được các hành khách tranh giành nhau mỗi khi đặt chỗ.

Dàn diễn viên Spider-Man hé lộ tên phần phim tiếp theo: Mỗi người 1 tiêu đề, không rõ là đang troll khán giả hay "tung thính" cho đa vũ trụ

tinybook tinybook 5 tháng 4 ngày
Dàn diễn viên Spider-Man hé lộ tên phần phim tiếp theo: Mỗi người 1 tiêu đề, không rõ là đang troll khán giả hay "tung thính" cho đa vũ trụ
Chưa ra mắt nhưng Spider-Man 3 đã biết cách "bắt lú" fan hâm mộ rồi.

WandaVision: Cô hàng xóm thân thiện Agnes hiện nguyên hình phản diện, nhưng nhiều khả năng vẫn chưa phải trùm cuối

tinybook tinybook 5 tháng 4 ngày
WandaVision: Cô hàng xóm thân thiện Agnes hiện nguyên hình phản diện, nhưng nhiều khả năng vẫn chưa phải trùm cuối
Cú twist đến sái cổ trong tập mới nhất của WandaVision đã hé lộ Agnes thực chất chính là phù thủy Agatha Harkness, nhưng rất có thể đằng sau đó vẫn còn 1 thế lực đen tối khác đang giật dây để phá hoại cuộc đời của Wanda.
tinybook Công Nghệ Thông Tin








Chat