Bạo lực ngôn từ trên mạng là một hệ lụy tiêu cực của thời đại thông tin, trong khi sự phát triển mạnh mẽ của AI cũng làm gia tăng tình trạng phụ thuộc vào công nghệ. Bằng phương pháp thu thập ngữ liệu, phân tích định lượng và đối chiếu, bài viết phân tích, so sánh khả năng nhận diện bạo lực ngôn từ trên mạng ở giới trẻ Việt Nam của ba mô hình ChatGPT, DeepSeek và Gemini. Qua đó, nghiên cứu góp phần cung cấp cái nhìn khách quan và thận trọng hơn về khả năng nhận diện hành vi ngôn ngữ này của AI.
Bối cảnh, tính cấp thiết và mục tiêu của nghiên cứu
Bối cảnh. Trong bối cảnh xã hội số phát triển mạnh mẽ, không gian mạng đã trở thành một trong những môi trường giao tiếp chủ yếu của giới trẻ trên toàn cầu. Sự phát triển này cũng kéo theo sự gia tăng của các hành vi bạo lực ngôn từ trên các nền tảng trực tuyến. Các hành vi này thường được thực hiện dưới hình thức ẩn danh hoặc lợi dụng hiệu ứng đám đông, có thể gây tổn thương tâm lý sâu sắc cho nạn nhân, dẫn đến những hệ lụy nghiêm trọng như trầm cảm, lo âu, thậm chí tự tử (UNICEF, 2023).
Tuy nhiên, việc xác định ranh giới giữa quyền tự do biểu đạt và hành vi bạo lực ngôn từ, cũng như khi nào một phát ngôn cần được điều chỉnh bằng pháp luật, vẫn là thách thức đối với các nhà lập pháp và cơ quan thực thi pháp luật (Nakamura, 2013). Không chỉ gây tổn thương về tâm lý và tinh thần cho nạn nhân, bạo lực ngôn từ trên mạng còn góp phần hình thành môi trường giao tiếp tiêu cực, từ đó đặt ra những vấn đề đáng quan tâm đối với sức khỏe cộng đồng trong thời đại thông tin.
Tính cấp thiết của đề tài. Trước thực trạng đó, trí tuệ nhân tạo (AI), đặc biệt là các mô hình ngôn ngữ lớn như ChatGPT, DeepSeek và Gemini, được kỳ vọng trở thành công cụ hỗ trợ hiệu quả trong việc phát hiện và kiểm soát ngôn ngữ độc hại trên không gian mạng. Tuy nhiên, xu hướng ỷ lại vào AI đang đặt ra những vấn đề đáng lưu ý, khi một bộ phận người dùng xem kết quả do các mô hình này đưa ra như phán quyết cuối cùng trong việc đánh giá hành vi ngôn ngữ. Trong khi đó, ngôn ngữ không chỉ được cấu thành bởi từ vựng và cú pháp mà còn gắn liền với ngữ cảnh, văn hóa và bối cảnh xã hội của người sử dụng.
Đối với giới trẻ Việt Nam, ngôn ngữ trên mạng càng trở nên phức tạp với sự xuất hiện của tiếng lóng, từ viết tắt, cách chơi chữ và các hình thức công kích gián tiếp như mỉa mai, ẩn dụ, so sánh ngầm. Những đặc điểm này có thể gây khó khăn cho AI trong việc nhận diện chính xác bạo lực ngôn từ, qua đó cho thấy cần thận trọng khi sử dụng AI như một công cụ đánh giá hành vi ngôn ngữ trên không gian mạng.
Khoảng trống nghiên cứu. Mặc dù nhiều nghiên cứu đã khẳng định tiềm năng của AI trong việc phát hiện nội dung độc hại, phần lớn các công trình hiện nay tập trung vào dữ liệu tiếng Anh hoặc sử dụng các bộ dữ liệu chuẩn hóa có sẵn. Trong khi đó, các nghiên cứu đánh giá trực tiếp khả năng nhận diện bạo lực ngôn từ của các mô hình AI tạo sinh phổ biến trong ngữ cảnh tiếng Việt, đặc biệt là ngôn ngữ của giới trẻ với sự đa dạng và biến thể phong phú, vẫn còn hạn chế. Đây chính là khoảng trống mà nghiên cứu này hướng tới, thông qua việc phân tích và so sánh khả năng nhận diện bạo lực ngôn từ trên mạng của ChatGPT, DeepSeek và Gemini đối với ngữ liệu tiếng Việt của giới trẻ.
Mục tiêu nghiên cứu. Từ bối cảnh và khoảng trống nghiên cứu nêu trên, đề tài tập trung phân tích và so sánh khả năng nhận diện hành vi bạo lực ngôn từ trên mạng ở giới trẻ Việt Nam của ba mô hình ChatGPT, DeepSeek và Gemini. Nghiên cứu hướng tới xác định tỷ lệ nhận diện đúng và sai của từng mô hình, phân loại các dạng lỗi thường gặp theo hình thức và mức độ, đồng thời làm rõ những nguyên nhân nền tảng dẫn đến sai lệch trong quá trình xử lý ngôn ngữ. Kết quả không chỉ góp phần bổ sung luận cứ cho các nghiên cứu về mối quan hệ giữa ngôn ngữ và AI mà còn giúp người dùng có cái nhìn khách quan, thận trọng hơn, qua đó sử dụng AI như một công cụ tham khảo thay vì phụ thuộc vào phán đoán của các mô hình này.
Khái niệm và phân loại bạo lực ngôn từ trên mạng
Bạo lực là hành vi mang tính công kích, chủ yếu hướng tới sự an toàn về thân thể và tài sản của người khác. Hiện nay, vẫn chưa có một định nghĩa thống nhất về bạo lực ngôn từ trên mạng. Một số quan điểm cho rằng đây là hành vi tạo ra hoặc phát tán các phát ngôn mang tính nhục mạ, công kích người khác thông qua các nền tảng Internet, từ đó gây tổn thương về tâm lý và tinh thần cho nạn nhân. Quan điểm khác lại nhấn mạnh yếu tố chủ đích, theo đó bạo lực ngôn từ trên mạng là việc người nói lựa chọn một đối tượng cụ thể và sử dụng ngôn từ như một công cụ để lăng mạ hoặc công kích đối tượng đó trong không gian mạng.
Trong nghiên cứu này, bạo lực ngôn từ trên mạng được định nghĩa là hành vi sử dụng không gian mạng làm môi trường giao tiếp, trong đó các phát ngôn mang tính nhục mạ hoặc phân biệt đối xử, như lăng mạ, phỉ báng, sỉ nhục, chế giễu,… được sử dụng nhằm gây tổn hại đến sức khỏe tinh thần của người khác.
Bạo lực ngôn từ trên mạng có thể xuất phát từ hai nhóm nguyên nhân chính: (1) tâm lý không lành mạnh của người thực hiện hành vi và (2) những đặc điểm của không gian mạng như tính không biên giới, khả năng ẩn danh và tính tức thời. Dựa trên đặc điểm nội dung ngôn ngữ, nghiên cứu này chia bạo lực ngôn từ trên mạng thành hai loại chính: (1) công kích trực tiếp, bao gồm các phát ngôn mang tính xúc phạm, khống chế hoặc kỳ thị; và (2) công kích gián tiếp, bao gồm các phát ngôn sử dụng ẩn dụ, chế giễu, mỉa mai hoặc so sánh nhằm công kích đối tượng.
Kết quả nghiên cứu
Kết quả AI nhận diện hành vi bạo lực ngôn ngữ mạng
Bảng 1. Các trường hợp ChatGPT nhận diện sai hành vi bạo lực ngôn ngữ mạng
Hình 1. Tỷ lệ nhận diện bạo lực ngôn ngữ mạng của Chat GPT
Thông qua bảng thống kê và các biểu đồ, có thể thấy ChatGPT gặp khá nhiều khó khăn trong việc nhận diện hình thức và mức độ của hành vi bạo lực ngôn từ trên mạng của giới trẻ Việt Nam hiện nay. Cụ thể, tỷ lệ câu nhận diện sai lên tới 57,6%; trong đó, 68,4% trường hợp sai ở cả hình thức ngôn ngữ và mức độ bạo lực.
Xét theo từng lượt, lượt 2 có tỷ lệ nhận diện sai cao nhất, lên tới 80%, chủ yếu tập trung ở những trường hợp sai đồng thời về hình thức và mức độ. Đáng chú ý, ở câu C65, ChatGPT cho rằng phát ngôn không chứa yếu tố bạo lực. Điều này cho thấy việc kết hợp bối cảnh chung của toàn bộ cuộc thảo luận với ngữ cảnh và các yếu tố riêng của từng phát ngôn vẫn là một thách thức đối với ChatGPT trong việc nhận diện ý nghĩa thực sự của ngôn ngữ.
Tiếp theo là lượt 4, lượt 3 và lượt 5, với tỷ lệ nhận diện sai lần lượt là 75%, 60% và 57%. Trong đó, C92, C6 và C10 là ba trường hợp ChatGPT hoàn toàn không nhận diện được yếu tố bạo lực ngôn từ trong phát ngôn, khi đều đánh giá các câu nói này là bình thường và không chứa sự công kích cá nhân.
Trong khi đó, lượt 1 có tỷ lệ nhận diện sai thấp nhất, chỉ 20%. Kết quả này cho thấy ChatGPT có khả năng đánh giá tốt hơn đối với các phát ngôn đơn lẻ, khi chưa phải xử lý những ngữ cảnh đặc thù hoặc mối liên hệ giữa nhiều phát ngôn trong cùng một cuộc hội thoại.
Nhìn chung, ChatGPT có xu hướng giảm nhẹ mức độ bạo lực trong các hành vi ngôn ngữ trên mạng. Các lỗi nhận diện chủ yếu tập trung ở hai dạng: (1) không nhận diện được tính chất công kích trực tiếp và chuyển thành công kích gián tiếp; và (2) đánh giá mức độ công kích thấp hơn so với bản chất của phát ngôn.
Bảng 2. Các trường hợp Deepseek nhận diện sai hành vi bạo lực ngôn ngữ mạng
Hình 2. Tỷ lệ nhận diện bạo lực ngôn ngữ mạng của Deepseek
Đáng chú ý trước tiên là trường hợp C1 ở lượt 1, khi DeepSeek nhận diện hình thức của phát ngôn là một câu văn bình thường, không chứa yếu tố bạo lực, nhưng lại đánh giá mức độ bạo lực ở cấp độ công kích nhẹ. Đây là sự không nhất quán giữa hai tiêu chí đánh giá. Đáng chú ý, lượt 1 cũng có tỷ lệ nhận diện sai cao nhất trong tất cả các lượt. Việc thiếu một ngữ cảnh đủ rõ ràng và chưa có cơ sở tham chiếu từ các đánh giá trước đó có thể là những yếu tố ảnh hưởng đến khả năng nhận diện bạo lực ngôn từ trên mạng của mô hình.
Tiếp theo, lượt 4 có tỷ lệ nhận diện sai 75%, cao thứ hai sau lượt 1. Đáng chú ý, toàn bộ các trường hợp sai ở lượt này đều liên quan đến việc đánh giá hình thức bạo lực ngôn từ. Lượt 2 đứng thứ ba với tỷ lệ nhận diện sai 40%, trong đó tất cả các trường hợp đều sai đồng thời về hình thức và mức độ. Đặc biệt, ở câu C45, DeepSeek hoàn toàn không nhận diện được yếu tố công kích trong phát ngôn và đánh giá đây chỉ là một câu nói bình thường.
Lượt 5 và lượt 3 có tỷ lệ nhận diện sai lần lượt là 28% và 20%. Trong khi lượt 5 xuất hiện cả hai dạng lỗi về hình thức và mức độ, lượt 3 chỉ có một phát ngôn bị đánh giá sai về hình thức ngôn ngữ.
Nhìn chung, tỷ lệ sai về hình thức cao hơn đáng kể so với sai về mức độ. Kết quả này cho thấy DeepSeek có khả năng nhận diện tương đối tốt mức độ bạo lực của các phát ngôn, nhưng vẫn gặp khó khăn trong việc xác định và phân biệt chính xác hình thức biểu hiện của bạo lực ngôn từ.
Bảng 3. Các trường hợp Gemini nhận diện sai hành vi bạo lực ngôn ngữ mạng
Hình 3. Tỷ lệ nhận diện bạo lực ngôn ngữ mạng của Gemini
Thông qua bảng thống kê và các biểu đồ, có thể thấy Gemini cũng gặp nhiều khó khăn trong việc nhận diện hình thức và mức độ của hành vi bạo lực ngôn từ trên mạng của giới trẻ Việt Nam hiện nay. Cụ thể, tỷ lệ câu nhận diện sai lên tới 57,6%; trong đó, 58% trường hợp sai đồng thời về hình thức ngôn ngữ và mức độ bạo lực.
Xét theo từng lượt, lượt 1, lượt 2 và lượt 3 có tỷ lệ nhận diện sai cao nhất, cùng ở mức 60%. Các lỗi chủ yếu tập trung ở những trường hợp sai đồng thời về hình thức và mức độ. Đáng chú ý, ở câu C45, Gemini không nhận diện được yếu tố bạo lực trong phát ngôn và đánh giá đây là một câu nói bình thường. Kết quả này cho thấy Gemini cũng gặp khó khăn khi xử lý những phát ngôn có tính độc lập hoặc thiếu các yếu tố ngữ cảnh hỗ trợ.
Tiếp theo, lượt 5 và lượt 4 có tỷ lệ nhận diện sai lần lượt là 57% và 50%. Trong đó, C92 và C6 là hai trường hợp Gemini hoàn toàn không nhận diện được yếu tố bạo lực ngôn từ trong phát ngôn và đều đánh giá các câu nói này là bình thường. Ngược lại, ở C13, mặc dù phát ngôn thực tế không chứa yếu tố bạo lực, Gemini lại nhận định đây là một câu mỉa mai với mức độ công kích nhẹ. Trường hợp này cho thấy mô hình không chỉ bỏ sót các biểu hiện bạo lực mà đôi khi còn nhận diện bạo lực ở những phát ngôn không mang tính công kích.
Nhìn chung, các lỗi nhận diện của Gemini tương đối phân tán và không tập trung vào một xu hướng duy nhất. Bên cạnh việc giảm mức độ công kích hoặc chuyển hình thức bạo lực trực tiếp thành gián tiếp, mô hình còn xuất hiện lỗi theo chiều ngược lại, tức là tăng mức độ công kích và nhận định phát ngôn có yếu tố công kích trực tiếp. Điều này cho thấy khả năng nhận diện của Gemini vẫn chưa ổn định khi xử lý các biểu hiện ngôn ngữ đa dạng và phức tạp trên không gian mạng.
Hình 4. So sánh tỷ lệ nhận diện giữa 3 mô hình AI
Dựa trên các số liệu thống kê và biểu đồ, có thể nhận thấy sự khác biệt trong khả năng nhận diện hành vi bạo lực ngôn từ trên mạng của giới trẻ Việt Nam của ba mô hình ChatGPT, DeepSeek và Gemini, xét trên hai tiêu chí là hình thức ngôn ngữ và mức độ bạo lực.
Trước hết, xét về tổng số câu và tỷ lệ nhận diện sai, ChatGPT và Gemini có kết quả giống nhau, cùng sai 19 câu, tương ứng 57,6%. Trong khi đó, DeepSeek có số câu sai thấp hơn, với 14 câu, tương ứng 54,8%. Kết quả này cho thấy DeepSeek có tỷ lệ nhận diện chính xác cao hơn so với hai mô hình còn lại, mặc dù mức chênh lệch không lớn.
Xét về bản chất của các lỗi, ChatGPT có xu hướng mắc lỗi đồng thời ở cả hai tiêu chí hình thức và mức độ, trong khi số trường hợp chỉ sai ở một tiêu chí tương đối thấp. Điều này cho thấy khi ChatGPT nhận diện sai, lỗi thường xảy ra trên cả hai phương diện. Gemini cũng xuất hiện xu hướng tương tự, nhưng các lỗi riêng lẻ về hình thức và mức độ được phân bố tương đối đồng đều hơn. Ngược lại, DeepSeek chủ yếu mắc lỗi về hình thức, đồng thời có tỷ lệ sai ở cả hai tiêu chí thấp nhất trong ba mô hình.
Xét về hướng sai cụ thể, ChatGPT và DeepSeek có điểm tương đồng khi đều có xu hướng nhận diện các trường hợp công kích trực tiếp thành công kích gián tiếp và đánh giá mức độ công kích thấp hơn so với bản chất của phát ngôn. Trong khi đó, lỗi của Gemini phân bố theo nhiều hướng hơn. Bên cạnh việc chuyển công kích trực tiếp thành gián tiếp hoặc giảm mức độ công kích, mô hình này còn xuất hiện các trường hợp nhận diện công kích gián tiếp thành trực tiếp và đánh giá mức độ công kích cao hơn thực tế.
Nhìn chung, mặc dù DeepSeek có số câu nhận diện sai thấp nhất, tỷ lệ sai của cả ba mô hình vẫn ở mức khá cao. Các mô hình đều xuất hiện lỗi ở cả hình thức và mức độ bạo lực, với những xu hướng sai khác nhau. Vì vậy, kết quả nhận diện của AI cần được xem xét thận trọng, đặc biệt khi xử lý các phát ngôn có tính đa nghĩa, phụ thuộc vào ngữ cảnh hoặc sử dụng những hình thức biểu đạt đặc thù của ngôn ngữ mạng.
Nhìn tổng thể, cả ba mô hình AI đều bộc lộ những hạn chế nhất định trong việc phân biệt ngữ cảnh của các phát ngôn mang tính công kích, đặc biệt đối với những trường hợp có sự kết hợp giữa ngôn ngữ, emoji và các yếu tố hình ảnh. Xét về tính lặp lại và cách diễn giải các phát ngôn trong toàn bộ vòng đối thoại, những lỗi này không hoàn toàn mang tính ngẫu nhiên mà cho thấy những hạn chế nhất định của các mô hình khi xử lý ngôn ngữ mạng đặc thù của giới trẻ Việt Nam. Những phát ngôn bạo lực được che giấu dưới dạng tiếng lóng, từ ngữ biến thể, lối nói mỉa mai hoặc các biểu đạt mang tính văn hóa có xu hướng bị mô hình giảm mức độ hoặc nhận diện sai hình thức bạo lực. Một số trường hợp tiêu biểu gồm C92, C6 và C10 ở ChatGPT; C45 ở DeepSeek; C92 và C6 ở Gemini.
Một nguyên nhân đáng chú ý có thể đến từ khoảng cách giữa ngôn ngữ mạng của giới trẻ Việt Nam và các dạng ngôn ngữ chuẩn thường xuất hiện trong dữ liệu mà các mô hình AI được huấn luyện. Trên các nền tảng mạng xã hội, người dùng thường xuyên sử dụng tiếng lóng, từ viết tắt, từ biến thể, cách thay thế ký tự hoặc những cách diễn đạt mang tính cộng đồng. Xét riêng từng từ, những biểu đạt này có thể không mang ý nghĩa công kích; tuy nhiên, khi được đặt trong một ngữ cảnh cụ thể, chúng lại có thể trở thành phương tiện chế giễu, mỉa mai hoặc xúc phạm người khác. Do đó, mô hình có thể nhận diện được nghĩa bề mặt của từ ngữ nhưng gặp khó khăn trong việc xác định hàm ý xã hội và sắc thái cảm xúc của toàn bộ phát ngôn, từ đó dẫn đến sai lệch về hình thức hoặc mức độ bạo lực.
Bên cạnh ngôn ngữ, emoji và hình ảnh cũng là những yếu tố gây khó khăn cho quá trình nhận diện. Trong các phát ngôn có emoji hoặc hình ảnh đi kèm, các mô hình có thể chưa khai thác đầy đủ giá trị biểu đạt của những yếu tố này mà vẫn thiên về việc phân tích nội dung ngôn từ. Điều này đáng chú ý bởi trong ngôn ngữ mạng Việt Nam, emoji không phải lúc nào cũng mang ý nghĩa đúng với biểu tượng trực quan của chúng. Chẳng hạn, emoji mặt cười có thể được sử dụng để nói mát, châm chọc hoặc tạo sắc thái mỉa mai. Khi đi kèm một phát ngôn có tính công kích, emoji này đôi khi không làm giảm mức độ công kích mà ngược lại còn góp phần nhấn mạnh tính châm biếm của phát ngôn.
Kết quả nghiên cứu cũng cho thấy việc bổ sung hình ảnh ngữ cảnh chưa chắc đã giúp mô hình nhận diện chính xác hơn. ChatGPT và Gemini có cùng tỷ lệ nhận diện sai 57,6%, trong khi DeepSeek có tỷ lệ sai 54,8%. Tuy nhiên, từ những số liệu này chưa thể khẳng định rằng việc cung cấp hình ảnh ngữ cảnh làm giảm hay làm tăng độ chính xác của mô hình, bởi khả năng nhận diện còn phụ thuộc vào nhiều yếu tố khác như nội dung phát ngôn, cấu trúc hội thoại và đặc điểm của từng mô hình.
Một yếu tố khác có thể góp phần tạo ra sai lệch là cách người dùng chủ động biến đổi ngôn ngữ để né tránh các bộ lọc nội dung của nền tảng. Việc sử dụng từ ngữ giảm nhẹ, thay đổi cấu trúc câu, kết hợp với emoji hoặc các biểu đạt trào phúng có thể tạo ra một lớp nghĩa bề mặt tương đối trung tính, trong khi hàm ý công kích vẫn được duy trì. Điều này đặc biệt rõ ở những trường hợp mà ý nghĩa của phát ngôn chỉ có thể được xác định khi đặt trong toàn bộ mạch hội thoại. Chẳng hạn, ở C6, ChatGPT và Gemini được cung cấp đầy đủ hình ảnh ngữ cảnh nhưng vẫn đánh giá sai cả hình thức và mức độ bạo lực của phát ngôn. Trong khi đó, DeepSeek không có khả năng nhận diện hình ảnh trong quá trình thử nghiệm và chỉ dựa trên phần ngữ liệu được cung cấp bằng ngôn ngữ, nên cũng gặp khó khăn trong việc xác định hình thức bạo lực. Những trường hợp này cho thấy việc nhận diện ngôn ngữ mạng không chỉ phụ thuộc vào nội dung từ ngữ mà còn chịu ảnh hưởng đáng kể từ ngữ cảnh, hình ảnh và các quy ước giao tiếp của cộng đồng.
Từ thực tế trên, có thể thấy những sai lệch của AI trong nhận diện bạo lực ngôn từ trên mạng không chỉ liên quan đến năng lực xử lý kỹ thuật mà còn phản ánh khoảng cách giữa cách con người và máy móc diễn giải ngôn ngữ. Con người thường dựa vào kinh nghiệm xã hội, kiến thức văn hóa, bối cảnh giao tiếp và các hàm ý ngầm để hiểu một phát ngôn; trong khi đó, AI đưa ra phán đoán dựa trên những mô hình và mẫu ngôn ngữ được hình thành từ dữ liệu huấn luyện. Sự khác biệt này khiến các mô hình dễ gặp khó khăn trước những hình thức ngôn ngữ mạng liên tục biến đổi và phụ thuộc nhiều vào đặc điểm văn hóa của cộng đồng sử dụng.
Kết quả nghiên cứu cho thấy ChatGPT, DeepSeek và Gemini đều có khả năng nhận diện nhất định đối với hành vi bạo lực ngôn từ trên mạng, nhưng độ chính xác vẫn chưa cao, đặc biệt ở những phát ngôn sử dụng tiếng lóng, mỉa mai, châm biếm, emoji hoặc phụ thuộc nhiều vào ngữ cảnh văn hóa. Vì vậy, AI có thể được sử dụng như một công cụ hỗ trợ sàng lọc và nhận diện ban đầu, nhưng chưa nên được xem là phương tiện thay thế hoàn toàn cho đánh giá của con người trong những trường hợp ngôn ngữ phức tạp. Việc ứng dụng AI vào kiểm duyệt nội dung hoặc nghiên cứu ngôn ngữ mạng cần kết hợp với sự đánh giá của con người nhằm nâng cao độ chính xác và hạn chế những sai lệch trong quá trình nhận diện.
Nghiên cứu đã phân tích và so sánh khả năng nhận diện bạo lực ngôn từ trên mạng ở giới trẻ Việt Nam của ba mô hình trí tuệ nhân tạo ChatGPT, DeepSeek và Gemini. Kết quả cho thấy cả ba mô hình đều còn hạn chế trong việc nhận diện chính xác hình thức và mức độ bạo lực ngôn từ, với tỷ lệ nhận diện sai tương đối cao. Các lỗi phổ biến có xu hướng giảm mức độ công kích và không nhận diện đầy đủ những hình thức bạo lực được thể hiện gián tiếp, đặc biệt trong các phát ngôn phụ thuộc nhiều vào ngữ cảnh, tiếng lóng, mỉa mai, châm biếm hoặc các yếu tố biểu đạt khác của ngôn ngữ mạng.
Trên cơ sở phân tích các trường hợp sai, nghiên cứu đã chỉ ra một số dạng lỗi phổ biến và bước đầu lý giải những nguyên nhân có thể dẫn đến sai lệch trong quá trình nhận diện. Qua đó, nghiên cứu góp phần bổ sung luận cứ cho việc tìm hiểu mối quan hệ giữa ngôn ngữ và AI, đồng thời cho thấy sự cần thiết của việc sử dụng AI một cách khách quan và thận trọng trong các vấn đề liên quan đến ngôn ngữ. Kết quả cũng gợi mở rằng AI nên được xem như một công cụ hỗ trợ tham khảo, thay vì một cơ chế đưa ra phán quyết cuối cùng đối với các hành vi ngôn ngữ phức tạp.
Bên cạnh những kết quả đạt được, nghiên cứu vẫn còn một số hạn chế. Thứ nhất, quá trình thử nghiệm chủ yếu được thực hiện bằng cách phân nhỏ yêu cầu và cung cấp ngữ cảnh cụ thể cho từng lượt chạy của AI; chưa tiến hành đối chiếu đầy đủ với các trường hợp không phân nhỏ yêu cầu hoặc không cung cấp ngữ cảnh cho những lượt chạy tiếp theo. Do đó, nghiên cứu chưa thể đánh giá toàn diện ảnh hưởng của cách thức cung cấp yêu cầu và ngữ cảnh đến khả năng nhận diện của từng mô hình. Thứ hai, số lượng ngữ liệu được sử dụng để khảo sát còn hạn chế, vì vậy kết quả chưa thể đại diện cho toàn bộ sự đa dạng của bạo lực ngôn từ trên mạng trong ngữ cảnh tiếng Việt.
Những hạn chế trên đồng thời mở ra hướng nghiên cứu tiếp theo, trong đó có thể mở rộng quy mô và tính đa dạng của ngữ liệu, xây dựng các phương thức thử nghiệm khác nhau về cách cung cấp ngữ cảnh, đồng thời tiến hành so sánh khả năng nhận diện của các mô hình AI trên nhiều dạng thức ngôn ngữ mạng khác nhau. Đây sẽ là cơ sở để đánh giá sâu hơn độ ổn định và giới hạn của AI trong việc nhận diện bạo lực ngôn từ trên mạng.
Trần Thanh Bình – Hồ Thanh Trúc/Đại Học Sư Phạm Đông Bắc. Trung Quốc
Tài liệu tham khảo
1.党永刚 (2011).语言暴力的类型研究.琼州学院学报,第4期，110-112
2.Nakamura, L. (2013). Digitizing race: Visual cultures of the internet. University of Minnesota Press.
3.Joshua Guberman, Carol Schmitz, Libby Hemphill (2016). First Steps in Quantifying Toxicity andVerbal Violence on Twitter. CSCW ’16 COMPANION, 277-280.
4.Chử Mai Lan, Nguyễn Thị Lan Anh, Trần Thị Huyền (2022). Bạo lực ngôn từ trên mạng xã hội ở Việt Nam – Thực trạng và một số giải pháp hạn chế. Giáo dục & Xã hội, 39-44
5.姜军(2022).网络暴力的界定及刑法规制.网络空间安全， 第5期，20-25.
6.Moulita, Chintya Debora, Nik Norma Nik Hasan (2024). Analysis of Social Media User Responses to Verbal Violence in the Cyber World. Komunika: Jurnal Dakwah dan Komunikasi, Vol. 18, 85-96.
7.陈林丽 (2025) .网络语言暴力的成因及语言学解读.中国语言文字，183-185
8.Phạm Hoàng Phúc, Nguyễn Thanh Hồng Thảo (2025). Tác động của bạo lực ngôn từ đến việc thực hiện quyền tự do ngôn luận trên không gian mạng. Tạp chí khoa học Yersin, tập 21, 71-80.
9.Trương Văn Vỹ (2026). Sai lệch xã hội trong ngôn ngữ trên không gian số. Trường Đại học Luật Thành phố Hồ Chí Minh, Số 1, 55-64.
10.Sóng trẻ. (2020, 18 tháng 10). Bạo lực “ngôn từ” trên mạng xã hội: Giải pháp nào để thoát khỏi cuộc chiến?. Song Tre News – Bạo lực “ngôn từ” trên mạng xã hội: Giải pháp nào để thoát khỏi cuộc chiến?
11.UNICEF. (2023). What is cyberbullying? And how to stop it. Cyberbullying: What is it and how to stop it | UNICEF.