Bị OpenAI gỡ bỏ vì quá nguy hiểm, phần mềm tạo văn bản này lại được một cặp đôi khôi phục để xem nguy hiểm tới đâu

Bị OpenAI gỡ bỏ vì quá nguy hiểm, phần mềm tạo văn bản này lại được một cặp đôi khôi phục để xem nguy hiểm tới đâu
Theo: Nguyễn Hải Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Các thử nghiệm ban đầu cho thấy, có lẽ lo lắng của những nhà nghiên cứu trong OpenAI về mức độ nguy hiểm của phần mềm này là quá thừa thãi.

Trong tháng Hai vừa qua, phòng thí nghiệm về trí tuệ nhân tạo OpenAI do tỷ phủ Elon Musk đồng sáng lập thông báo rằng bước tiến mới nhất trong nghiên cứu của họ quá nguy hiểm nên không thể công bố công khai. OpenAI tuyên bố họ đã làm nên một phần mềm ngôn ngữ có thể tạo nên những đoạn văn bản giống như người thật, rất phù hợp để phát tán các tin giả hoặc spam.

Những tưởng điều này sẽ mang lại một chút bình yên cho thế giới thì vào thứ Năm tuần trước, hai học viên thạc sĩ về ngành khoa học máy tính cho biết, họ đã tái tạo lại được phần mềm đã bị OpenAI rút lại và đưa lên internet để bất kỳ ai cũng có thể tải xuống và sử dụng.

Bị OpenAI gỡ bỏ vì quá nguy hiểm, phần mềm tạo văn bản này lại được một cặp đôi khôi phục để xem nguy hiểm tới đâu - Ảnh 1.

Phần mềm AI phù hợp cho phát tán tin giả

Hai học viên này, Aaron Gokaslan, 23 tuổi và Vanya Cohen, 24 tuổi, những người không tin vào quan điểm cho rằng những phần mềm như vậy có thể gây ra nhiều rủi ro như vậy cho xã hội. Cặp đôi này cho biết việc đưa phần mềm này lên internet để chứng minh rằng, bạn không cần phải những phòng thí nghiệm hàng triệu USD với đầy các chuyên gia PhD trong đó để tạo ra loại phần mềm này.

Họ đã sử dụng dịch vụ đám mây miễn phí của Google, vốn dành cho các học viện nghiên cứu, với trị giá ước tính khoảng 50.000 USD. Và cặp đôi này cho rằng việc cung cấp miễn phí phần mềm này sẽ giúp những người khác khám phá và chuẩn bị cho những tiến bộ trong tương lai – dù nó tốt hay xấu đi.

Thí nghiệm của cặp đôi này, cũng như của OpenAI, liên quan đến việc cung cấp cho phần mềm máy học đoạn văn bản từ hàng triệu các trang web thu thập thông qua các đường link chia sẻ trên diễn đàn Reddit. Sau đó, phần mềm này sẽ địa phương hóa các mô hình ngôn ngữ của đoạn văn bản đó, để có thể áp dụng cho các tác vụ như phiên dịch, hỗ trợ cho chatbot, hay tự tạo ra các đoạn văn bản mới để phản hồi lại các gợi ý.

Bị OpenAI gỡ bỏ vì quá nguy hiểm, phần mềm tạo văn bản này lại được một cặp đôi khôi phục để xem nguy hiểm tới đâu - Ảnh 2.

Phần mềm do Cohen và Gokaslan tạo ra có thể làm nên những đoạn văn bản cực kỳ ấn tượng. Khi phóng viên của trang Wired thử đưa ra lời gợi ý "Vấn đề với nước Mỹ là", phần mềm đã bổ sung thêm "bởi vì mọi thứ đều chỉ là một câu chuyện kể hấp dẫn, tất cả chúng ta đang bị giam cầm trong chính lời nói dối của mình." Một vài câu sau đó, phần mềm này ca ngợi ông Donald Trump là người có thể "mang lại tiếng nói cho những người bị bỏ rơi."

Các đoạn văn bản này cho thấy sự tương đồng với những gì phần mềm được OpenAI phát triển, có tên GPT-2. Cả hai phiên bản phần mềm này cho thấy các dấu hiệu của việc huấn luyện dựa trên nội dung có liên kết với Reddit, nơi thường diễn ra những cuộc tranh luận chính trị cuồng nhiệt.

Những lời cảnh báo thừa thãi

Nhưng không phần mềm nào có thể tạo ra một đoạn văn xuôi hoàn hảo. Các phần mềm máy học lựa chọn theo các mô hình thống kê của ngôn ngữ, chứ không thực sự hiểu biết về thế giới. Các đoạn văn bản từ cả phần mềm gốc lẫn phần mềm được phục hồi lại đều có những đoạn chuyển ý vô nghĩa. Không câu nói nào cho thấy các thực tế cụ thể hoặc quan điểm về vấn đề.

Bị OpenAI gỡ bỏ vì quá nguy hiểm, phần mềm tạo văn bản này lại được một cặp đôi khôi phục để xem nguy hiểm tới đâu - Ảnh 3.

Những thiếu sót này khiến các nhà nghiên cứu AI xem thường những lời cảnh báo và sự thận trọng trong tuyên bố của OpenAI về mối đe dọa cho xã hội của phần mềm này. Bản thân con người có thể - và vẫn đang – viết nên những thông tin giả và sai lệch một cách hiệu quả, mà không cần đến AI hỗ trợ.

Miles Brundage, vốn đang làm việc về chính sách cho OpenAI, từ chối cho biết phần mềm mà cặp đôi trên công bố nguy hiểm như thế nào. Ông cho rằng, không ai có thời gian để kiểm tra nó một cách chính xác, cho dù các con số mà Gokaslan và Cohen dưa ra cho thấy nó mạnh hơn một chút so với GPT-2 của OpenAI. Brundage cũng bổ sung thêm rằng, OpenAI sẽ ra mắt phiên bản đầy đủ của phần mềm này, nhưng họ muốn đợi cho đến khi cảm thấy "thoải mái" về việc không gây ra các hậu quả tiêu cực.

Ông Brundage cũng thừa nhận rằng Gokaslan và Cohen đã cho thấy, việc mở rộng khả năng truy cập đến các máy tính mạnh mẽ và những kỹ năng AI đang làm gia tăng số lượng người có thể làm việc này. Ông cho rằng bất kỳ ai muốn làm điều tương tự như cặp đôi trên nên thận trọng và nói với OpenAI về kế hoạch ra mắt sản phẩm của họ.

OpenAI đã phát hành một báo cáo trong đó tuyên bố, họ biết có hơn 5 nhóm khác đang lặp lại toàn bộ nghiên cứu của họ, nhưng chưa có nhóm nào phát hành phần mềm đó. Báo cáo cũng cho biết, một phiên bản rút gọn của GPT-2 đã được OpenAI phát hành với khả năng tạo tin giả gần ngang bằng phiên bản phần mềm mà họ đã gỡ bỏ.

Bạn có thể dùng thử phiên bản này tại đây: talktotransformer.com

Tham khảo Wired


Bầu khí quyển của Trái Đất thay vì 5 lớp thì vẫn còn một lớp nữa mà bạn chưa hề biết tới

tinybook tinybook 1 tháng 1 tuần
Bầu khí quyển của Trái Đất thay vì 5 lớp thì vẫn còn một lớp nữa mà bạn chưa hề biết tới
Nó có thể là khó tin, nhưng đối với một phần nào đó của bầu khí quyển, nghiên cứu khoa học vẫn chưa được thực hiện.

Sẽ thế nào khi rau được trồng trong nhà máy, bằng robot, AI và thế hệ nông dân 4.0?

tinybook tinybook 1 tháng 1 tuần
Sẽ thế nào khi rau được trồng trong nhà máy, bằng robot, AI và thế hệ nông dân 4.0?
Hơn 1.600 công ty khởi nghiệp đã đầu tư 1,8 tỷ USD vào các nông trại thẳng đứng trong vòng 1 thập kỷ qua.

Thuộc hệ “chăm săn sale” phải nằm lòng chiêu này, vừa sắm được hàng ngon vừa bảo toàn lương đầu tháng!

tinybook tinybook 1 tháng 1 tuần
Thuộc hệ “chăm săn sale” phải nằm lòng chiêu này, vừa sắm được hàng ngon vừa bảo toàn lương đầu tháng!
Cứ mỗi dịp đầu tháng, các chương trình giảm giá khởi động thì cũng là lúc các tín đồ mua sắm khoe chiến tích săn sale và chia sẻ cách mua thế nào được hưởng được lợi nhiều nhất.

Warner Bros. hé lộ loạt chi tiết mới trong Godzilla vs. Kong: Hết đánh trên bờ lại lôi nhau xuống biển, chắc chắn có kẻ bại trận, không có chuyện giảng hòa

tinybook tinybook 1 tháng 1 tuần
Warner Bros. hé lộ loạt chi tiết mới trong Godzilla vs. Kong: Hết đánh trên bờ lại lôi nhau xuống biển, chắc chắn có kẻ bại trận, không có chuyện giảng hòa
Được biết, tổng thời lượng các phân cảnh đối đầu giữa Godzilla và Kong sẽ lên đến gần 20 phút trong bom tấn này, dự kiến ra mắt vào ngày 31/3 tới đây.

Chính xác thì B.1.1.7 là "dòng", "biến chủng" hay "biến thể" của virus SARS-CoV-2?

tinybook tinybook 1 tháng 1 tuần
Chính xác thì B.1.1.7 là "dòng", "biến chủng" hay "biến thể" của virus SARS-CoV-2?
Các nhà sinh học rất muốn báo chí và công chúng sử dụng đúng thuật ngữ chuyên môn của họ.

TopCV - Nền tảng công nghệ tuyển dụng “sát cánh” cùng nhà tuyển dụng

tinybook tinybook 1 tháng 1 tuần
TopCV - Nền tảng công nghệ tuyển dụng “sát cánh” cùng nhà tuyển dụng
Sự phát triển của các nền tảng tuyển dụng đang là cơ hội giúp nhà tuyển dụng tiếp cận được ứng viên dễ dàng hơn và TopCV đang là trở thành sự lựa chọn hàng đầu.

Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các bom tấn của Hollywood

tinybook tinybook 1 tháng 1 tuần
Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các bom tấn của Hollywood
Với công nghệ de-aging, các diễn viên sẽ được trẻ hóa một cách đơn giản hơn, chân thực hơn thay vì dành hàng tiếng đồng hồ cho khâu trang điểm và lựa chọn trang phục.

WandaVision: Lý giải về Chaos Magic, ma thuật khủng khiếp của Scarlet Witch với khả năng thay đổi bản chất thực tại

tinybook tinybook 1 tháng 1 tuần
WandaVision: Lý giải về Chaos Magic, ma thuật khủng khiếp của Scarlet Witch với khả năng thay đổi bản chất thực tại
Tập phim mới nhất của WandaVision đã chính thức mang đến khái niệm về Chaos Magic - 1 trong những nguồn sức mạnh lâu đời và khủng khiếp nhất trong nguyên tác truyện tranh Marvel.

Thí nghiệm với hai người mất xúc giác chứng minh thế giới chúng ta đang sống không phải là thực tại ảo

tinybook tinybook 1 tháng 1 tuần
Thí nghiệm với hai người mất xúc giác chứng minh thế giới chúng ta đang sống không phải là thực tại ảo
Tất cả chúng ta không phải là những bộ não bị nhúng trong bình thủy tinh.

Warner Bros. xác nhận sẽ "đập đi xây lại" Superman, Henry Cavill sắp bị cho ra rìa?

tinybook tinybook 1 tháng 1 tuần
Warner Bros. xác nhận sẽ "đập đi xây lại" Superman, Henry Cavill sắp bị cho ra rìa?
Warner Bros. đã công bố dự án Superman reboot do J.J. Abrams sản xuất, và có thể Henry Cavill sẽ không phải cái tên cho vai chính mà họ đang nhắm đến.

Những con kênh nổi tiếng của Venice đang cạn nước: Hậu quả của biến đổi khí hậu?

tinybook tinybook 1 tháng 1 tuần
Những con kênh nổi tiếng của Venice đang cạn nước: Hậu quả của biến đổi khí hậu?
Triều cường đã rút cạn các con kênh của thành phố được mệnh danh là lãng mạn nhất châu Âu.

Zulihome - Điểm đến tin cậy cho gia đình Việt muốn mua robot hút bụi thông minh

tinybook tinybook 1 tháng 1 tuần
Zulihome - Điểm đến tin cậy cho gia đình Việt muốn mua robot hút bụi thông minh
Ngay từ khi thành lập và phát triển, Zulihome đã chứng minh được sự uy tín với khách hàng bằng việc cung cấp robot hút bụi thông minh chính hãng từ các thương hiệu nổi tiếng.

Mày mò tìm kiếm ở thành phố diệt vong Pompeii, các nhà khoa học sửng sốt khi khám phá ra thứ "độc nhất vô nhị" vô cùng quý giá

tinybook tinybook 1 tháng 1 tuần
Mày mò tìm kiếm ở thành phố diệt vong Pompeii, các nhà khoa học sửng sốt khi khám phá ra thứ "độc nhất vô nhị" vô cùng quý giá
Một cỗ xe ngựa 2.000 năm tuổi của người La Mã đã được phát hiện "gần như nguyên vẹn" ở ngoại ô thành phố diệt vong Pompeii.

Những sự thật thú vị và cực dị về Gollum, nhân vật độc đáo nhất của Lord of the Rings cũng như nền văn hóa đại chúng thế giới

tinybook tinybook 1 tháng 1 tuần
Những sự thật thú vị và cực dị về Gollum, nhân vật độc đáo nhất của Lord of the Rings cũng như nền văn hóa đại chúng thế giới
Ra đời vào năm 1937 dưới ngòi bút của nhà văn J. R. R. Tolkien trong bộ tiểu thuyết The Hobbit, Gollum có thể coi là 1 nhân vật cực kỳ khác biệt và trở thành nét đặc trưng ấn tượng khó phai trong vũ trụ Lord of the Rings rộng lớn.

WandaVision: Sức mạnh của Wanda là bẩm sinh, không liên quan đến Mind Stone, X-Men đang ở gần MCU hơn bao giờ hết

tinybook tinybook 1 tháng 1 tuần
WandaVision: Sức mạnh của Wanda là bẩm sinh, không liên quan đến Mind Stone, X-Men đang ở gần MCU hơn bao giờ hết
Tập phim mới nhất của WandaVision đã hé lộ nguồn gốc sức mạnh của Wanda Maximoff, và nó không bắt nguồn từ Mind Stone như chúng ta vẫn lầm tưởng.

[CHÍNH THỨC] 9 nhóm đối tượng ưu tiên và miễn phí tiêm vaccine COVID-19

tinybook tinybook 1 tháng 1 tuần
[CHÍNH THỨC] 9 nhóm đối tượng ưu tiên và miễn phí tiêm vaccine COVID-19
Nghị quyết số 21/NQ-CP ngày 26/2/2021 về mua và sử dụng vaccine phòng COVID-19 nêu rõ 9 nhóm đối tượng ưu tiên tiêm và miễn phí.

Thủ đô Anh Quốc đột nhiên thành "vương quốc chuột", to khổng lồ và nhiều gấp đôi con người: Tại sao có chuyện đó?

tinybook tinybook 1 tháng 1 tuần
Thủ đô Anh Quốc đột nhiên thành "vương quốc chuột", to khổng lồ và nhiều gấp đôi con người: Tại sao có chuyện đó?
Người London có thể sẽ sốc khi chứng kiến chuột xuất hiện ở những nơi chưa từng thấy. Lại còn là chuột khổng lồ.

Kinh dị chuyện nhà vệ sinh công cộng thời La Mã, nơi tất cả mọi người chùi chung bằng 1 cái que

tinybook tinybook 1 tháng 1 tuần
Kinh dị chuyện nhà vệ sinh công cộng thời La Mã, nơi tất cả mọi người chùi chung bằng 1 cái que
Đó là một cái que buộc bọt biển được 500 anh em truyền tay nhau chùi đến lúc hỏng thì thôi...

Điệp viên nghỉ hưu kể chuyện nghề: Hóa ra những gì chúng ta xem trên phim lâu nay thực sự tồn tại, thậm chí đôi khi còn thú vị hơn thế

tinybook tinybook 1 tháng 1 tuần
Điệp viên nghỉ hưu kể chuyện nghề: Hóa ra những gì chúng ta xem trên phim lâu nay thực sự tồn tại, thậm chí đôi khi còn thú vị hơn thế
Điệp viên chắc chắn là một trong những nghề thú vị, đặc biệt, nguy hiểm và khiến mọi người tò mò bậc nhất thế giới.

Siêu thị tại Hà Lan bị doạ tẩy chay vì bán phở Việt “fake”: Trông chẳng khác gì mì trộn, sợi vàng như nghệ, ăn kèm sốt thịt gà

tinybook tinybook 1 tháng 1 tuần
Siêu thị tại Hà Lan bị doạ tẩy chay vì bán phở Việt “fake”: Trông chẳng khác gì mì trộn, sợi vàng như nghệ, ăn kèm sốt thịt gà
Nhiều khách hàng bức xúc khi nhìn thấy món phở "quốc hồn quốc tuý" của Việt Nam bị chế tạo theo một phiên bản hoàn toàn khác, thậm chí họ còn kêu gọi tẩy chay chuỗi siêu thị này.

Bill Gates, vắc xin và những chiếc khẩu trang

tinybook tinybook 1 tháng 1 tuần
Bill Gates, vắc xin và những chiếc khẩu trang
Dù đã được tiêm vắc xin chống Covid-19 nhưng tỷ phú từ thiện Bill Gates nói rằng ông vẫn tiếp tục đeo khẩu trang, nhất là khi ở gần những người cao tuổi chưa được tiêm phòng.

"Soi" Joker của Justice League: Đổi giọng, che hình xăm để "lột xác" từ trong ra ngoài

tinybook tinybook 1 tháng 1 tuần
"Soi" Joker của Justice League: Đổi giọng, che hình xăm để "lột xác" từ trong ra ngoài
Snyder đã hé lộ tạo hình đầu tiên về Joker trong đoạn trailer mới ra mắt. Không quá lời khi cho rằng Justice League của Snyder có cách tiếp cận hoàn toàn mới về nhân vật này. Sự lột xác này mạnh mẽ đến mức nào?

Đây là cây đinh ba của Aquaman với khả năng phóng nước cực đỉnh, dùng để rửa bát siêu sạch

tinybook tinybook 1 tháng 1 tuần
Đây là cây đinh ba của Aquaman với khả năng phóng nước cực đỉnh, dùng để rửa bát siêu sạch
Không quá bá đạo như nguyên tác truyện tranh, nhưng cây đinh ba của Aquaman này hoàn toàn có thể sử dụng để rửa bát, rửa ô tô hay đấu súng nước với bạn bè.

Bóng tối phía sau ngành công nghiệp anime tỷ USD của Nhật Bản

tinybook tinybook 1 tháng 1 tuần
Bóng tối phía sau ngành công nghiệp anime tỷ USD của Nhật Bản
Đại dịch thúc đẩy sự bùng nổ của ngành công nghiệp anime Nhật Bản. Nhưng dù khối lượng công việc và lợi nhuận của ngành tăng lên, các họa sĩ diễn hoạt vẫn nhận mức lương ít ỏi.

[Video] Hé lộ loạt kỹ xảo đỉnh cao giúp Lord of the Rings vẫn đẹp lung linh, không hề "out meta" so với phim ngày nay

tinybook tinybook 1 tháng 1 tuần
[Video] Hé lộ loạt kỹ xảo đỉnh cao giúp Lord of the Rings vẫn đẹp lung linh, không hề "out meta" so với phim ngày nay
Dù đã 2 thập kỷ trôi qua nhưng những kỹ xảo trong bộ 3 phim The Lord of the Rings vẫn cứ là đẹp mê hồn và không hề bị lép vế so với các tác phẩm hiện tại

WandaVision: Những đoạn quảng cáo vô thưởng vô phạt, vô vị vô duyên hóa ra lại liên quan rất mật thiết đến Wanda

tinybook tinybook 1 tháng 1 tuần
WandaVision: Những đoạn quảng cáo vô thưởng vô phạt, vô vị vô duyên hóa ra lại liên quan rất mật thiết đến Wanda
Những đoạn quảng cáo trong WandaVision có thể coi là easter egg nhỏ liên quan đến quá khứ, hiện tại và cả tương lai của nữ pháp sư quyền năng Wanda Maximoff.

Trailer Army of the Dead lên sóng: Mãn nhãn với phi vụ cướp nhà băng gay cấn giữa trung tâm đại dịch zombie

tinybook tinybook 1 tháng 2 tuần
Trailer Army of the Dead lên sóng: Mãn nhãn với phi vụ cướp nhà băng gay cấn giữa trung tâm đại dịch zombie
Dưới bàn tay của đạo diễn Zack Snyder, Army of the Dead sẽ là 1 luồng gió mới lạ cho dòng phim zombie vốn đã quá quen thuộc với khán giả thế giới.

Bí mật ẩn sau 6 chiếc ghế luôn 'cháy vé' của hãng hàng không Singapore Airlines

tinybook tinybook 1 tháng 2 tuần
Bí mật ẩn sau 6 chiếc ghế luôn cháy vé của hãng hàng không Singapore Airlines
Không phải hạng ghế thương gia, trên chiếc Airbus A350-900ULR của hãng Singapore Airline luôn có 6 chỗ ngồi được các hành khách tranh giành nhau mỗi khi đặt chỗ.

Dàn diễn viên Spider-Man hé lộ tên phần phim tiếp theo: Mỗi người 1 tiêu đề, không rõ là đang troll khán giả hay "tung thính" cho đa vũ trụ

tinybook tinybook 1 tháng 2 tuần
Dàn diễn viên Spider-Man hé lộ tên phần phim tiếp theo: Mỗi người 1 tiêu đề, không rõ là đang troll khán giả hay "tung thính" cho đa vũ trụ
Chưa ra mắt nhưng Spider-Man 3 đã biết cách "bắt lú" fan hâm mộ rồi.

WandaVision: Cô hàng xóm thân thiện Agnes hiện nguyên hình phản diện, nhưng nhiều khả năng vẫn chưa phải trùm cuối

tinybook tinybook 1 tháng 2 tuần
WandaVision: Cô hàng xóm thân thiện Agnes hiện nguyên hình phản diện, nhưng nhiều khả năng vẫn chưa phải trùm cuối
Cú twist đến sái cổ trong tập mới nhất của WandaVision đã hé lộ Agnes thực chất chính là phù thủy Agatha Harkness, nhưng rất có thể đằng sau đó vẫn còn 1 thế lực đen tối khác đang giật dây để phá hoại cuộc đời của Wanda.
tinybook Công Nghệ Thông Tin








Chat