Mới đây các nhà nghiên cứu tại trường đại học Harvard và phòng thí nghiệm AI-MIT Watson của MIT đã tạo ra công cụ GLTR (Giant Language Model Test Room – Phòng thử nghiệm mô hình ngôn ngữ khổng lồ) để phát hiện những thông tin sai lệch được làm từ AI, bằng cách sử dụng chính trí tuệ thông minh nhân tạo

Công cụ GLTR nắm rất rõ cách thức mà các AI hoạt động để từ đó phân tích nội dung thông tin. Công cụ này phát hiện fake news tạo bởi công nghệ AI bằng cách bôi màu một đoạn văn bản. Bạn đọc có thể theo dõi khả năng phân tích của GLTP trong hình minh họa dưới đây. Với những từ ngữ được bôi màu xanh lá cây nghĩa là chúng dễ dự đoán nhất, màu đỏ và vàng ít được dự đoán hơn, màu tím thuộc hạng ít được dự đoán nhất.

GLTR bôi màu đoạn văn

Các nhà khoa học dựa vào các màu sắc trong từng đoạn văn bản và phân tích để đánh giá tính xác thực của thông tin, liệu chúng có được tạo bằng những thuật toán hay không. Những đoạn văn bản được bôi màu đỏ, tím và vàng sẽ ít khả năng được tạo ra bởi AI do sử dụng nhiều từ ngữ khó. Nếu những đoạn văn bản được phủ nhiều màu xanh, nghĩa là có nhiều từ ngữ phổ biến và nhiều khả năng tạo ra bằng một con bot. Công cụ này giúp tăng tỷ lệ phát hiện văn bản giả mạo khoảng 72%.

GLTR tăng khả năng phát hiện fake news

Nếu được nghiên cứu thành công và triển khai rộng rãi, công cụ này chắc chắn hữu ích cho Facebook và Twitter, khi càng ngày có nhiều thông tin sai lệch trên mạng xã hội, gây ra những hệ lụy không nhỏ.

Nguồn: quangtrimang.com