Các hãng công nghệ gánh trách nhiệm ngăn tự sát trên mạng

Thứ sáu - 29/12/2017 04:21
Sáng lập viên Facebook Mark Zuckerberg tự gánh lấy trách nhiệm tìm cách ngăn chặn điều đó xảy ra với sự giúp sức của trí tuệ nhân tạo (AI).

Điều tra lâu dài

Hãng công nghệ Facebook tin rằng những người quẫn trí muốn từ giã cõi đời có thể sẽ nghĩ lại nếu ai đó xuất hiện kịp thời để an ủi, trò chuyện khiến họ nguôi ngoai. Trong đó, AI đóng vai trò phát hiện những người tuyệt vọng một cách hiệu quả.
Từ tháng Ba, Facebook đã có chức năng cho phép người dùng report (thông báo) khi phát hiện ai đó có bài viết hay video trực tiếp (livestream) bi quan và dường như có ý định tự tử.

Các hãng công nghệ gánh trách nhiệm ngăn tự sát trên mạng

 

Tiếp theo, một nhóm chuyên gia của Facebook sẽ tiếp nhận các tin báo và sẽ nhắn tin cho người đang quẫn trí qua ứng dụng Messenger, kèm theo các câu chia sẻ hay số điện thoại tư vấn, hỗ trợ. Nếu người dùng không muốn sự can thiệp của Facebook thì cũng có thể chọn trực tiếp chat với người đang muốn từ giã cõi đời đó, tất nhiên là qua gợi ý cuẩ Facebook.

Đông thái trên cho thấy Facebook bắt đầu quan tâm đến an nguy của người dùng, nhất là khi chức năng livestream thường bị lợi dụng để phát trực tiếp những cảnh tự tử.

Điểm yếu của phương pháp này là nếu một người thường xuyên chia sẻ những điều tiêu cực và thực sự có ý định tự tử nhưng không ai để báo cho Facebook hãng sẽ không thể có can thiệp kịp thời. 

Tuy nhiên, hãng công nghệ hàng đầu thế giới đã khắc phục chuyện này với AI, thông qua công nghệ nhận dạng mẫu (pattern recognition).

Các hãng công nghệ gánh trách nhiệm ngăn tự sát trên mạng - Ảnh minh hoạ 2

 

Thuật toán do Facebook phát triển sẽ tự động giám sát nội dung chia sẻ bài viết của người dùng 24/24 giờ để có thể nhận biết liệu một người có đang mang ý nghĩ muốn tự tử hay hủy hoại bản thân hay không? Nếu điều này xảy ra, hãng sẽ có kế hoạch cụ thể để chủ động can thiệp ngay thay vì phải chờ báo cáo của những người dùng khác.

Đại điện phía Facebook cho rằng: Việc AI có thể phát hiện và chủ động can thiệp có ý nghĩa rất lớn vì giúp tránh được tình trạng ai đó đang tuyệt vọng nhưng không ai để ý tới. 

“Khi Facebook muốn giúp người dùng được an toàn, điều quan trọng là phải hành động ngay lập tức” - Mark Zuckerberg nhận định.
Sáng lập viên Facebook khẳng định chương trình AI đã được thử nghiệm thành công và phát hiện chính xác 100 người cần được hỗ trợ về tâm lý.

Phía Facebook cố gắng để có được đội ngũ chuyên gia phản hồi bất cứ lúc nào bằng mọi thứ ngôn ngữ bản địa. 
Bên cạnh đó, Facebook cũng thừa nhận vẫn đang cải tiến để AI nhận diện chính xác hơn và tránh trường hợp “báo động giả” không đáng có.

Những phương pháp tiếp cận khác

Phương pháp phân tích nội dung trên mạng xã hội để tìm hiểu tâm lý và tinh thần của người dùng là hoàn toàn không mới mẻ. Trong thời đại ngày nay, gần như mọi người dân ai cũng sở hữu “phiên bản ảo” trên mạng xã hội và những thông tin đó là mỏ vàng cho ai biết khai thác. Giới khoa học, bác sĩ tâm lý nhìn vào đó để chẩn bệnh.

Trong vài năm trở lại đây, các học giả đã tiếp cận theo hướng xây dựng thuật toán phân tích cách dùng từ và các emoji (biểu tượng cảm xúc) của người dùng Facebook. Từ đó, họ xác định các nhóm từ nào có liên quan với ý định muốn tự tử.

“Các nhà nghiên cứu ngôn ngữ học, chuyên gia tâm lý và nhà khoa học máy tính nhận thấy tất cả những gì chúng ta chia sẻ trên Facebook và đó có thể là tín hiệu về sức khỏe tâm thần của người dùng” - Mashable chuyên gia tâm lý nhận định.

Theo công bố của Coppersmith tại một hội nghị ngôn ngữ học năm 2016, thí nghiệm đã xác định chính xác những người tự vẫn dùng các emoji mang ý nghĩa buồn như hình trái tim tan vỡ, thường xuyên hơn người bình thường. 

Các hãng công nghệ gánh trách nhiệm ngăn tự sát trên mạng - Ảnh minh hoạ 3

 

Công ty khởi nghiệp Bark (Mỹ) lại cung cấp phần mềm AI dành cho phụ huynh giám sát nội dung con cái chia sẻ trên mạng xã hội hay email. 

Cụ thể, phần mềm này sẽ phân tích các nội dung này và nhận diện khi trẻ có dấu hiệu muốn tự vẫn hay bị bắt nạt và nhắn tin cho phụ huynh biết để có phương cách can thiệp kịp thời. 

Tương tự, phần mềm AI Buddy cho phép con cái trò chuyện với nhân vật ảo và hệ thống sẽ cảnh báo phụ huynh hoặc người giám hộ nếu con họ bộc lộ ý định muốn tự tử thông qua các lần tâm tình với “người bạn AI”.

Không chỉ phía Facebook mà đối thủ lớn Google cũng có cơ chế giúp ngăn tự tử theo phương pháp thể hiện số điện thoại hỗ trợ mỗi khi ai đó tìm kiếm với từ khóa liên quan đến tự vẫn.

Tác giả bài viết: Quang Anh (Theo Tuổi trẻ)

Nguồn tin: ICTNEWS - Chuyên trang về CNTT của Báo điện tử Infonet

Tổng số điểm của bài viết là: 0 trong 0 đánh giá

Click để đánh giá bài viết
banner cuoi trang
Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây