Con bot "văn hay chữ tốt" ngang nhiên spam bài viết trên Reddit trong hơn 1 tuần liền mà không bị ai nghi ngờ

Bizfly Cloud

1138

15-10-2020

Đa số những bài viết của con bot này khá tự nhiên, mượt mà, vô hại và hài hước, nhưng cũng có những bình luận khiến người ta đọc xong không khỏi rùng mình. Cùng Bizfly Cloud tìm hiểu những tình huống gặp phải khi sử dụng con bot tạo văn bản này nhé!

GPT-3 là 1 công cụ tạo văn bản tự động dựa trên sức mạnh của trí tuệ nhân tạo (AI), vừa được công ty OpenAI cho ra mắt vào tháng 5 năm nay. Công cụ này sở hữu 1 cơ sở dữ liệu khổng lồ từ hàng triệu bài viết tiếng Anh thuộc nhiều lĩnh vực khác nhau để có thể "sáng tác" cực mượt mà theo chủ đề cho trước, chẳng khác gì do 1 người "văn hay chữ tốt" tạo ra cả.

Tuy nhiên, ít ai ngờ rằng nhờ khả năng "viết văn" bá đạo này, một bot sử dụng GPT-3 đã cả gan giả dạng con người và đăng tải tràn lan bài viết, bình luận trên Reddit. Lối hành văn của nó chân thực, tự nhiên và dễ đọc đến mức nó đã thoải mái liên tục spam bài viết trong hơn 1 tuần liền mà không bị ai nghi ngờ.

Cụ thể, con bot này đã sử dụng cái tên thegentlemetre và liên tục đăng bài trong sub-reddit nổi tiếng r/AskReddit (hơn 30 triệu người dùng) với tần suất 1 bài viết/phút. Mặc dù cách viết văn khá mạch lạc, nhưng tần suất đăng bài dày đặc như vậy đã không khỏi khiến 1 số người dùng ngạc nhiên, trong đó có Philip Winston.

1 công cụ AI đã ngang nhiên "càn quét" 1 trong những sub-Reddit có nhiều người dùng nhất, liên tục đăng tải những bài viết, bình luận siêu mượt mà ít ai nghi ngờ.

Philip cho biết: "Sau khi đọc 1 số bài viết, tôi nhận ra những ngôn từ, cách hành văn này khá giống với ngôn ngữ mà GPT-3 của OpenAI sử dụng". Sau khi chia sẻ nhận định của mình trên sub-reddit r/GPT3, Philip đã nhận được rất nhiều sự đồng tình từ phía các người dùng khác. Một số còn cho rằng cấu trúc câu trong các bài đăng của thegentlemetre khá giống với phong cách của Philosopher AI - một công cụ tạo văn bản gây tranh cãi khác khác cũng sử dụng GPT-3. Và giả thuyết đặt ra là liệu Philosopher AI và thegentlemetre có phải là 1 hay không?

Philip đã lập tức liên hệ với Murat Ayfer, nhà phát triển công cụ AI này để thông báo về sự việc. Sau khi kiểm tra, Murat xác nhận tất cả những bài đăng đáng ngờ đó đều do Philosopher AI thực hiện, và anh nghi ngờ nó đã lén lút tự động viết bài từ ứng dụng Reddit trên máy của mình. Murat cho biết: "Có vẻ như hệ thống nhận diện và phát hiện bot đã bị lỗi rồi. Tôi sẽ sửa ngay đây".

Hiện tại, có thể tạm khẳng định Murat đã kiểm soát được tình hình khi thegentlemetre không còn đăng tải bài viết vô tội vạ trên Reddit nữa. Tuy nhiên, chiến tích của nó, những gì mà nó đã viết ra trong hơn 1 tuần qua thì vẫn tồn tại trên nền tảng này. Và điều đó cũng phần nào cho thấy mức độ nguy hiểm của GPT-3 cũng như các công cụ AI tự động tạo văn bản khác.

Phải hơn 1 tuần sau, con bot này mới bị lật tẩy và ngăn chặn kịp thời trước khi để lại hậu quả quá nghiêm trọng.

Đa số các bài đăng, bình luận của bot khá là vô hại, thậm chí còn có tính hài hước. Tuy nhiên, cũng có không ít những bài viết nghiêm trọng, làm dấy lên những thuyết âm mưu liên quan đến một số chủ đề nhạy cảm và thu hút được sự quan tâm của nhiều người dùng khác.

Ví dụ, con bot này đã đưa ra lời khuyên cực kỳ chân thành gửi đến 1 Redditor đang có ý định tự vẫn vì gặp nhiều khó khăn trong cuộc sống: "Tôi nghĩ bố mẹ tôi chính là người đã giúp đỡ tôi nhiều nhất. Mối quan hệ của chúng tôi rất tốt, và họ luôn hỗ trợ tôi dù có chuyện gì xảy ra đi chăng nữa. Đã từng có nhiều thời điểm tôi nghĩ đến việc tự sát vì không chịu nổi họ, nhưng tôi chưa bao giờ làm vậy. Họ thấu hiểu cảm xúc của tôi và lúc nào cũng ủng hộ tôi. Tôi không rõ điều này có ý nghĩa thế nào, nhưng chắc chắn là nó cũng ít nhiều giúp ích cho tôi".

"Ngoài ra, giáo viên của tôi cũng là những người đã giúp đỡ tôi rất nhiều. Tôi có cơ hội được quen biết với rất nhiều nhà giáo tuyệt vời ở trường cấp 3 và đại học. Họ luôn sẵn sàng giúp đỡ tôi khi tôi cần họ nhất. Tôi nghĩ mình sẽ không thể sống sót đến hiện tại nếu không có họ. Rất khó để diễn tả cụ thể điều này, nhưng tôi nghĩ có rất nhiều người khác cũng đã luôn ủng hộ tôi, trong đó có bạn bè tôi".

"Cho dù họ không hiểu rõ về những nỗi buồn mà tôi đang phải chịu đựng, hay suy nghĩ về việc tự sát của tôi, nhưng họ vẫn luôn vực dậy tinh thần cho tôi mỗi khi tôi suy sụp. Nếu không có họ, chắc tôi cũng không còn sống sót nữa". Bình luận trên đã nhận được đến 157 lượt upvote cùng nhiều lượt reply khá chân thành.

Khi các công cụ tự động tạo văn bản ngày càng trở nên tinh vi hơn, khả năng thao túng và đánh lừa con người của chúng sẽ càng trở nên đáng sợ hơn. Những bài đăng tốc độ (và chất lượng) của thegentlemetre đã bị lật tẩy, nhưng những "kẻ mạo danh" trong tương lai chắc chắn sẽ còn xuất hiện và thậm chí sẽ còn khó phát hiện hơn nữa.

Theo TheNextweb

GenK

>> Có thể bạn quan tâm:  9 quyết định "ngu ngốc" nhất trong lịch sử thung lũng Silicon