Salesforce tạo ra thuật toán machine learning tự động tóm tắt văn bản thay người

Salesforce tạo ra thuật toán machine learning tự động tóm tắt văn bản thay người
Theo: Ngocmiz Theo Trí Thức Trẻ
Thể loại: Khoa Học Công Nghệ
Các nhà nghiên cứu của Salesforce đã tạo ra hai đột phá mới trong công nghệ xử lý ngôn ngữ tự nhiên.

Đứng trước xu hướng con người ngày càng mất nhiều thời gian đọc email, báo điện tử và mạng xã hội, các nhà nghiên cứu của Salesforce đã phát triển một thuật toán sử dụng machine learning để tự động tóm tắt các văn bản dài một cách gãy gọn và chính xác.

Tự động tóm tắt sẽ là một trong những công nghệ quan trọng đối với Salesforce – công ty chuyên cung cấp các sản phẩm phục vụ cho hoạt động chăm sóc khách hàng trong doanh nghiệp. Salesforce cho rằng những đoạn văn tóm tắt có thể giúp nhân viên sales giảm thiểu thời gian đọc email và thông tin mới để tập trung nhiều hơn cho khách hàng của mình.

Để làm được điều này, Salesforce sử dụng trí tuệ nhân tạo phân tích và tóm gọn các đoạn văn. Công ty cho biết đã thực hiện được hai đột phá trong công nghệ xử lý ngôn ngữ tự nhiên là “mô hình phát sinh ngôn từ theo ngữ cảnh” và một “phương pháp huấn luyện các mô hình tóm tắt mới”. Hai mô hình này cho phép các nhà nghiên cứu tự động tạo ra các đoạn tóm tắt một cách chính xác và dễ hiểu. Trước đó, Salesforce cũng đã thâu tóm một startup về deep learning là MetaMind - nhóm nhân sự đứng sau toàn bộ công trình này.

Các nhà nghiên cứu của MetaMind giải thích rằng công nghệ tự động tóm tắt văn bản thông thường hoạt động trên hai nguyên tắc: extraction và abstraction. Với extraction, máy tính có thể tóm tắt dựa trên các câu chữ trước đó của văn bản nhưng lại không được linh hoạt cho lắm. Trong khi đó, abstraction cho phép máy đưa thêm từ mới nhưng hệ thống buộc phải hiểu đoạn văn ở mức khá cao thì mới có thể cho sử dụng từ mới một cách chuẩn xác.

Đây chính khi các mạng neuron trong deep learning phát huy tác dụng. Chúng có thể xử lý hàng loạt câu ví dụ và cho ra những từ biểu thị ý nghĩa của cả cụm, giúp hệ thống lược dịch lại được các đoạn chữ cũng như sản sinh ra được từ ngữ của riêng nó.

Các nhà nghiên cứu còn cho mô hình của họ xem lại các đoạn văn bản nó đã tóm tắt để có thêm ngữ cảnh. Các mô hình cũng xem lại cả các ví dụ tóm tắt do chính nó thực hiện để đảm bảo không lặp lại trong các đoạn sau.

Đột phá thứ hai của Salesforce cách các nhà nghiên cứu huấn luyện cho hệ thống tự học và nâng cấp chính nó. Họ sử dụng hai phương pháp: teacher forcing (học dưới sự thúc ép của “giáo viên”) và reinforcement learning (học tăng cường).

Reinforcement learning là phương pháp huấn luyện lấy cảm hứng từ cách động vật học hỏi, từng được Google DeepMind sử dụng để huấn luyện AI chơi video game. Ví dụ ở đây, các chuyên gia cho mô hình tạo ra một chuỗi từ ngữ với kết quả được chấm điểm theo thang đánh giá ROUGE (Recall-Oriented Understudy for Gisting Evaluation). Thuật toán sẽ tự động cập nhật chính nó bằng mức điểm cao hơn, dẫn đến kết quả tóm tắt tốt hơn trong tương lai.

Ví dụ về khả năng tóm tắt văn bản của mô hình khi so sánh với đoạn tóm tắt do người viết

Ví dụ về khả năng tóm tắt văn bản của mô hình khi so sánh với đoạn tóm tắt do người viết

Trong khi đó, teacher forcing lại đánh giá bản tóm tắt theo một quy chuẩn định sẵn có thể cho ra “kết quả rất tốt” nhưng lại không mấy linh hoạt.

Các nhà nghiên cứu nhận ra rằng, khi kết hợp các mô hình lại với nhau, kết quả thu về ấn tượng hơn hẳn các hướng tiếp cận khác. Trong các ví dụ được nhóm nghiên cứu MetaMind đưa ra, các đoạn tóm tắt bằng mô hình cho ra kết quả ngắn hơn đáng kể so với văn bản gốc, câu chữ cũng gãy gọn dễ đọc ngang ngửa với bản tóm tắt do người viết.

Tuy nhiên, cho dù kết quả có ấn tượng đến mức nào thì nhóm nghiên cứu vẫn còn rất nhiều việc cần làm trước khi đưa công nghệ này vào thương mại hóa.

Tham khảo The Verge

Bầu khí quyển của Trái Đất thay vì 5 lớp thì vẫn còn một lớp nữa mà bạn chưa hề biết tới

tinybook tinybook 5 tháng 4 ngày
Bầu khí quyển của Trái Đất thay vì 5 lớp thì vẫn còn một lớp nữa mà bạn chưa hề biết tới
Nó có thể là khó tin, nhưng đối với một phần nào đó của bầu khí quyển, nghiên cứu khoa học vẫn chưa được thực hiện.

Sẽ thế nào khi rau được trồng trong nhà máy, bằng robot, AI và thế hệ nông dân 4.0?

tinybook tinybook 5 tháng 4 ngày
Sẽ thế nào khi rau được trồng trong nhà máy, bằng robot, AI và thế hệ nông dân 4.0?
Hơn 1.600 công ty khởi nghiệp đã đầu tư 1,8 tỷ USD vào các nông trại thẳng đứng trong vòng 1 thập kỷ qua.

Thuộc hệ “chăm săn sale” phải nằm lòng chiêu này, vừa sắm được hàng ngon vừa bảo toàn lương đầu tháng!

tinybook tinybook 5 tháng 4 ngày
Thuộc hệ “chăm săn sale” phải nằm lòng chiêu này, vừa sắm được hàng ngon vừa bảo toàn lương đầu tháng!
Cứ mỗi dịp đầu tháng, các chương trình giảm giá khởi động thì cũng là lúc các tín đồ mua sắm khoe chiến tích săn sale và chia sẻ cách mua thế nào được hưởng được lợi nhiều nhất.

Warner Bros. hé lộ loạt chi tiết mới trong Godzilla vs. Kong: Hết đánh trên bờ lại lôi nhau xuống biển, chắc chắn có kẻ bại trận, không có chuyện giảng hòa

tinybook tinybook 5 tháng 4 ngày
Warner Bros. hé lộ loạt chi tiết mới trong Godzilla vs. Kong: Hết đánh trên bờ lại lôi nhau xuống biển, chắc chắn có kẻ bại trận, không có chuyện giảng hòa
Được biết, tổng thời lượng các phân cảnh đối đầu giữa Godzilla và Kong sẽ lên đến gần 20 phút trong bom tấn này, dự kiến ra mắt vào ngày 31/3 tới đây.

Chính xác thì B.1.1.7 là "dòng", "biến chủng" hay "biến thể" của virus SARS-CoV-2?

tinybook tinybook 5 tháng 4 ngày
Chính xác thì B.1.1.7 là "dòng", "biến chủng" hay "biến thể" của virus SARS-CoV-2?
Các nhà sinh học rất muốn báo chí và công chúng sử dụng đúng thuật ngữ chuyên môn của họ.

TopCV - Nền tảng công nghệ tuyển dụng “sát cánh” cùng nhà tuyển dụng

tinybook tinybook 5 tháng 4 ngày
TopCV - Nền tảng công nghệ tuyển dụng “sát cánh” cùng nhà tuyển dụng
Sự phát triển của các nền tảng tuyển dụng đang là cơ hội giúp nhà tuyển dụng tiếp cận được ứng viên dễ dàng hơn và TopCV đang là trở thành sự lựa chọn hàng đầu.

Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các bom tấn của Hollywood

tinybook tinybook 5 tháng 5 ngày
Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các bom tấn của Hollywood
Với công nghệ de-aging, các diễn viên sẽ được trẻ hóa một cách đơn giản hơn, chân thực hơn thay vì dành hàng tiếng đồng hồ cho khâu trang điểm và lựa chọn trang phục.

WandaVision: Lý giải về Chaos Magic, ma thuật khủng khiếp của Scarlet Witch với khả năng thay đổi bản chất thực tại

tinybook tinybook 5 tháng 5 ngày
WandaVision: Lý giải về Chaos Magic, ma thuật khủng khiếp của Scarlet Witch với khả năng thay đổi bản chất thực tại
Tập phim mới nhất của WandaVision đã chính thức mang đến khái niệm về Chaos Magic - 1 trong những nguồn sức mạnh lâu đời và khủng khiếp nhất trong nguyên tác truyện tranh Marvel.

Thí nghiệm với hai người mất xúc giác chứng minh thế giới chúng ta đang sống không phải là thực tại ảo

tinybook tinybook 5 tháng 5 ngày
Thí nghiệm với hai người mất xúc giác chứng minh thế giới chúng ta đang sống không phải là thực tại ảo
Tất cả chúng ta không phải là những bộ não bị nhúng trong bình thủy tinh.

Warner Bros. xác nhận sẽ "đập đi xây lại" Superman, Henry Cavill sắp bị cho ra rìa?

tinybook tinybook 5 tháng 5 ngày
Warner Bros. xác nhận sẽ "đập đi xây lại" Superman, Henry Cavill sắp bị cho ra rìa?
Warner Bros. đã công bố dự án Superman reboot do J.J. Abrams sản xuất, và có thể Henry Cavill sẽ không phải cái tên cho vai chính mà họ đang nhắm đến.

Những con kênh nổi tiếng của Venice đang cạn nước: Hậu quả của biến đổi khí hậu?

tinybook tinybook 5 tháng 5 ngày
Những con kênh nổi tiếng của Venice đang cạn nước: Hậu quả của biến đổi khí hậu?
Triều cường đã rút cạn các con kênh của thành phố được mệnh danh là lãng mạn nhất châu Âu.

Zulihome - Điểm đến tin cậy cho gia đình Việt muốn mua robot hút bụi thông minh

tinybook tinybook 5 tháng 5 ngày
Zulihome - Điểm đến tin cậy cho gia đình Việt muốn mua robot hút bụi thông minh
Ngay từ khi thành lập và phát triển, Zulihome đã chứng minh được sự uy tín với khách hàng bằng việc cung cấp robot hút bụi thông minh chính hãng từ các thương hiệu nổi tiếng.

Mày mò tìm kiếm ở thành phố diệt vong Pompeii, các nhà khoa học sửng sốt khi khám phá ra thứ "độc nhất vô nhị" vô cùng quý giá

tinybook tinybook 5 tháng 5 ngày
Mày mò tìm kiếm ở thành phố diệt vong Pompeii, các nhà khoa học sửng sốt khi khám phá ra thứ "độc nhất vô nhị" vô cùng quý giá
Một cỗ xe ngựa 2.000 năm tuổi của người La Mã đã được phát hiện "gần như nguyên vẹn" ở ngoại ô thành phố diệt vong Pompeii.

Những sự thật thú vị và cực dị về Gollum, nhân vật độc đáo nhất của Lord of the Rings cũng như nền văn hóa đại chúng thế giới

tinybook tinybook 5 tháng 6 ngày
Những sự thật thú vị và cực dị về Gollum, nhân vật độc đáo nhất của Lord of the Rings cũng như nền văn hóa đại chúng thế giới
Ra đời vào năm 1937 dưới ngòi bút của nhà văn J. R. R. Tolkien trong bộ tiểu thuyết The Hobbit, Gollum có thể coi là 1 nhân vật cực kỳ khác biệt và trở thành nét đặc trưng ấn tượng khó phai trong vũ trụ Lord of the Rings rộng lớn.

WandaVision: Sức mạnh của Wanda là bẩm sinh, không liên quan đến Mind Stone, X-Men đang ở gần MCU hơn bao giờ hết

tinybook tinybook 5 tháng 6 ngày
WandaVision: Sức mạnh của Wanda là bẩm sinh, không liên quan đến Mind Stone, X-Men đang ở gần MCU hơn bao giờ hết
Tập phim mới nhất của WandaVision đã hé lộ nguồn gốc sức mạnh của Wanda Maximoff, và nó không bắt nguồn từ Mind Stone như chúng ta vẫn lầm tưởng.

[CHÍNH THỨC] 9 nhóm đối tượng ưu tiên và miễn phí tiêm vaccine COVID-19

tinybook tinybook 5 tháng 6 ngày
[CHÍNH THỨC] 9 nhóm đối tượng ưu tiên và miễn phí tiêm vaccine COVID-19
Nghị quyết số 21/NQ-CP ngày 26/2/2021 về mua và sử dụng vaccine phòng COVID-19 nêu rõ 9 nhóm đối tượng ưu tiên tiêm và miễn phí.

Thủ đô Anh Quốc đột nhiên thành "vương quốc chuột", to khổng lồ và nhiều gấp đôi con người: Tại sao có chuyện đó?

tinybook tinybook 5 tháng 6 ngày
Thủ đô Anh Quốc đột nhiên thành "vương quốc chuột", to khổng lồ và nhiều gấp đôi con người: Tại sao có chuyện đó?
Người London có thể sẽ sốc khi chứng kiến chuột xuất hiện ở những nơi chưa từng thấy. Lại còn là chuột khổng lồ.

Kinh dị chuyện nhà vệ sinh công cộng thời La Mã, nơi tất cả mọi người chùi chung bằng 1 cái que

tinybook tinybook 5 tháng 6 ngày
Kinh dị chuyện nhà vệ sinh công cộng thời La Mã, nơi tất cả mọi người chùi chung bằng 1 cái que
Đó là một cái que buộc bọt biển được 500 anh em truyền tay nhau chùi đến lúc hỏng thì thôi...

Điệp viên nghỉ hưu kể chuyện nghề: Hóa ra những gì chúng ta xem trên phim lâu nay thực sự tồn tại, thậm chí đôi khi còn thú vị hơn thế

tinybook tinybook 5 tháng 6 ngày
Điệp viên nghỉ hưu kể chuyện nghề: Hóa ra những gì chúng ta xem trên phim lâu nay thực sự tồn tại, thậm chí đôi khi còn thú vị hơn thế
Điệp viên chắc chắn là một trong những nghề thú vị, đặc biệt, nguy hiểm và khiến mọi người tò mò bậc nhất thế giới.

Siêu thị tại Hà Lan bị doạ tẩy chay vì bán phở Việt “fake”: Trông chẳng khác gì mì trộn, sợi vàng như nghệ, ăn kèm sốt thịt gà

tinybook tinybook 5 tháng 6 ngày
Siêu thị tại Hà Lan bị doạ tẩy chay vì bán phở Việt “fake”: Trông chẳng khác gì mì trộn, sợi vàng như nghệ, ăn kèm sốt thịt gà
Nhiều khách hàng bức xúc khi nhìn thấy món phở "quốc hồn quốc tuý" của Việt Nam bị chế tạo theo một phiên bản hoàn toàn khác, thậm chí họ còn kêu gọi tẩy chay chuỗi siêu thị này.

Bill Gates, vắc xin và những chiếc khẩu trang

tinybook tinybook 5 tháng 6 ngày
Bill Gates, vắc xin và những chiếc khẩu trang
Dù đã được tiêm vắc xin chống Covid-19 nhưng tỷ phú từ thiện Bill Gates nói rằng ông vẫn tiếp tục đeo khẩu trang, nhất là khi ở gần những người cao tuổi chưa được tiêm phòng.

"Soi" Joker của Justice League: Đổi giọng, che hình xăm để "lột xác" từ trong ra ngoài

tinybook tinybook 5 tháng 1 tuần
"Soi" Joker của Justice League: Đổi giọng, che hình xăm để "lột xác" từ trong ra ngoài
Snyder đã hé lộ tạo hình đầu tiên về Joker trong đoạn trailer mới ra mắt. Không quá lời khi cho rằng Justice League của Snyder có cách tiếp cận hoàn toàn mới về nhân vật này. Sự lột xác này mạnh mẽ đến mức nào?

Đây là cây đinh ba của Aquaman với khả năng phóng nước cực đỉnh, dùng để rửa bát siêu sạch

tinybook tinybook 5 tháng 1 tuần
Đây là cây đinh ba của Aquaman với khả năng phóng nước cực đỉnh, dùng để rửa bát siêu sạch
Không quá bá đạo như nguyên tác truyện tranh, nhưng cây đinh ba của Aquaman này hoàn toàn có thể sử dụng để rửa bát, rửa ô tô hay đấu súng nước với bạn bè.

Bóng tối phía sau ngành công nghiệp anime tỷ USD của Nhật Bản

tinybook tinybook 5 tháng 1 tuần
Bóng tối phía sau ngành công nghiệp anime tỷ USD của Nhật Bản
Đại dịch thúc đẩy sự bùng nổ của ngành công nghiệp anime Nhật Bản. Nhưng dù khối lượng công việc và lợi nhuận của ngành tăng lên, các họa sĩ diễn hoạt vẫn nhận mức lương ít ỏi.

[Video] Hé lộ loạt kỹ xảo đỉnh cao giúp Lord of the Rings vẫn đẹp lung linh, không hề "out meta" so với phim ngày nay

tinybook tinybook 5 tháng 1 tuần
[Video] Hé lộ loạt kỹ xảo đỉnh cao giúp Lord of the Rings vẫn đẹp lung linh, không hề "out meta" so với phim ngày nay
Dù đã 2 thập kỷ trôi qua nhưng những kỹ xảo trong bộ 3 phim The Lord of the Rings vẫn cứ là đẹp mê hồn và không hề bị lép vế so với các tác phẩm hiện tại

WandaVision: Những đoạn quảng cáo vô thưởng vô phạt, vô vị vô duyên hóa ra lại liên quan rất mật thiết đến Wanda

tinybook tinybook 5 tháng 1 tuần
WandaVision: Những đoạn quảng cáo vô thưởng vô phạt, vô vị vô duyên hóa ra lại liên quan rất mật thiết đến Wanda
Những đoạn quảng cáo trong WandaVision có thể coi là easter egg nhỏ liên quan đến quá khứ, hiện tại và cả tương lai của nữ pháp sư quyền năng Wanda Maximoff.

Trailer Army of the Dead lên sóng: Mãn nhãn với phi vụ cướp nhà băng gay cấn giữa trung tâm đại dịch zombie

tinybook tinybook 5 tháng 1 tuần
Trailer Army of the Dead lên sóng: Mãn nhãn với phi vụ cướp nhà băng gay cấn giữa trung tâm đại dịch zombie
Dưới bàn tay của đạo diễn Zack Snyder, Army of the Dead sẽ là 1 luồng gió mới lạ cho dòng phim zombie vốn đã quá quen thuộc với khán giả thế giới.

Bí mật ẩn sau 6 chiếc ghế luôn 'cháy vé' của hãng hàng không Singapore Airlines

tinybook tinybook 5 tháng 1 tuần
Bí mật ẩn sau 6 chiếc ghế luôn cháy vé của hãng hàng không Singapore Airlines
Không phải hạng ghế thương gia, trên chiếc Airbus A350-900ULR của hãng Singapore Airline luôn có 6 chỗ ngồi được các hành khách tranh giành nhau mỗi khi đặt chỗ.

Dàn diễn viên Spider-Man hé lộ tên phần phim tiếp theo: Mỗi người 1 tiêu đề, không rõ là đang troll khán giả hay "tung thính" cho đa vũ trụ

tinybook tinybook 5 tháng 1 tuần
Dàn diễn viên Spider-Man hé lộ tên phần phim tiếp theo: Mỗi người 1 tiêu đề, không rõ là đang troll khán giả hay "tung thính" cho đa vũ trụ
Chưa ra mắt nhưng Spider-Man 3 đã biết cách "bắt lú" fan hâm mộ rồi.

WandaVision: Cô hàng xóm thân thiện Agnes hiện nguyên hình phản diện, nhưng nhiều khả năng vẫn chưa phải trùm cuối

tinybook tinybook 5 tháng 1 tuần
WandaVision: Cô hàng xóm thân thiện Agnes hiện nguyên hình phản diện, nhưng nhiều khả năng vẫn chưa phải trùm cuối
Cú twist đến sái cổ trong tập mới nhất của WandaVision đã hé lộ Agnes thực chất chính là phù thủy Agatha Harkness, nhưng rất có thể đằng sau đó vẫn còn 1 thế lực đen tối khác đang giật dây để phá hoại cuộc đời của Wanda.
tinybook Công Nghệ Thông Tin








Chat