Nội dung độc hại ngập MXH, đạo đức và nhân văn phải được tích hợp vào công nghệ

Sáu năm trước, cô bé 14 tuổi người Anh Molly Russel đột ngột qua đời tại nhà, sau nhiều năm điều tra, cơ quan chức năng đã công bố kết quả điều tra vào tháng 9/2023. Mạng xã hội, đặc biệt là các sản phẩm mạng xã hội thuộc sở hữu của Meta, là nguyên nhân chính khiến Molly tự sát.

Trong số 16.300 bài đăng mà Molly chia sẻ, thích và lưu lại trong 6 tháng trước khi cô qua đời, có tới 2.100 bài đăng liên quan đến tự tử, tự làm hại cơ thể và trầm cảm. Vụ việc cũng trở thành trường hợp được chính phủ chứng nhận đầu tiên trên thế giới về một thiếu niên tự tử do mạng xã hội, đồng thời làm dấy lên lo ngại của dư luận về tác động tiêu cực của nền tảng xã hội đối với giới trẻ.

Andrew Walker, nhân viên nghiệm thi kỳ cựu của London, chỉ ra rằng nhiều nội dung trên mạng xã hội không an toàn và trẻ em không nên xem. Tuy nhiên, thuật toán cho phép Molly xem rất nhiều nội dung mà cô chưa tìm kiếm, một số nội dung thậm chí còn ca ngợi hành vi tự làm hại bản thân của trẻ em. Trong khi các mạng xã hội đang cung cấp những thông tin tiêu cực này thì những người xung quanh và thậm chí cả xã hội cũng không thể ngăn chặn nó tiếp tục lan rộng.

“Không còn nghi ngờ gì nữa, Facebook và Instagram là một trong những thủ phạm gây ra cái chết của con gái tôi”, ông Ian, bố của Molly, đã nói điều này về các sản phẩm mạng xã hội của Meta vào năm 2019. Ngoài ra còn có Pinterest và Twitter (nay gọi là X).

Meta phải đối mặt với nhiều cáo buộc

Vào tháng 10/2023, tổng chưởng lý của 42 tiểu bang ở Mỹ đã đệ đơn kiện Meta (trước đây là Facebook), cáo buộc ‘gã khổng lồ’ truyền thông xã hội này cố tình làm hại trẻ em và khiến chúng nghiện sản phẩm của mình nhưng lại che giấu sự thật này với khách hàng vì lợi nhuận. 

Tổng trưởng lý tiểu bang Colorado, ông Phil Weiser, thẳng thừng chỉ ra: “Giống như các công ty thuốc lá và thuốc lá điện tử đã làm trong những năm trước, Meta chọn cách tối đa hóa lợi nhuận bằng cách gây thiệt hại cho sức khỏe cộng đồng, nhưng đặc biệt là sức khỏe của những người trẻ tuổi”.

Vụ bị mê hoặc và nghiện [mạng xã hội] này là tội trạng đầu tiên của Meta. Trong những trường hợp này, mạng xã hội bị cho là nguyên nhân khiến sức khỏe tâm thần của thanh thiếu niên trở nên tồi tệ hơn. Nó khiến thanh thiếu niên nghiện nền tảng này, không thể ngủ được và cuối cùng là có khuynh hướng tự tử.

Tiếp theo là vụ kiện diệt chủng, trong đó Meta bị buộc tội chấp nhận quảng cáo tiêu cực từ các chính trị gia. Ở Myanmar, nội dung diệt chủng được chia sẻ khiến hàng ngàn người thiệt mạng. Ngoài ra, Chính phủ Malaysia cũng tuyên bố vào tháng 6 năm ngoái rằng Facebook chứa “một lượng lớn nội dung không phù hợp” liên quan đến chủng tộc, hoàng gia, tôn giáo, phỉ báng, cờ bạc trực tuyến và quảng cáo lừa đảo, nhưng công ty mẹ Meta đã không giải quyết được vấn đề này. Do đó sẽ có hành động pháp lý nghiêm khắc bất thường chống lại Meta.

Ngoài ra còn có các vụ kiện bắt nạt và có rất nhiều trường hợp tử vong do bắt nạt xảy ra thông qua nền tảng này.

Cô Frances Haugen, cựu nhân viên Facebook và là người tố giác, từng chỉ trích Instagram gây tổn hại lớn cho thanh thiếu niên, đặc biệt là các cô gái trẻ. Có đến 13,5% cô gái cho rằng việc sử dụng mạng xã hội khiến suy nghĩ tự tử của họ trở nên tồi tệ hơn và 17% cho rằng Instagram khiến mất cân bằng ăn uống của họ nghiêm trọng hơn, kết quả là 32% cô gái trẻ rất không hài lòng với ngoại hình của mình. Trong khi đó, Meta thực sự nhận thức được những tác hại tiêu cực này.

• Cựu nhân viên làm chứng tại QH cáo buộc Facebook ‘hoạt động mờ ám’

Năm 2021, Frances Haugen khẳng định Facebook chưa hề giảm “nội dung độc hại” khi điều trần trước Quốc hội Mỹ, Anh và Nghị viện châu Âu. Cùng năm đó, Facebook đổi tên thành Meta, một động thái bị chỉ trích là nỗ lực tránh xa những tranh cãi.

Đạo đức và nhân văn phải được xem xét

Lời khai của cô Haugen và vụ kiện của các tiểu bang đặt ra một câu hỏi lớn: Bất chấp quy mô và sự phổ biến của họ, những ‘gã khổng lồ’ công nghệ không mang lại lợi ích gì cho nhân loại và phải thay đổi mô hình công nghệ để kết hợp đạo đức và tính nhân văn vào lập trình.

Ông James Williams, cựu chiến lược gia, tác giả và nhà đạo đức công nghệ của Google, gần đây đã nói với tờ Epoch Times rằng “các phương pháp gây hại” – chẳng hạn như “nghiện”, “ép buộc” và “thao túng” – đã được tích hợp vào môi trường thông tin có mặt khắp nơi trong đời sống con người.

Bà Divya Siddarth, người đồng sáng lập tổ chức phi lợi nhuận Dự án Trí tuệ Tập thể (Collective Intelligence Project), tin rằng các vấn đề “mang tính hệ thống” do các công ty công nghệ ngày nay đặt ra đòi hỏi một giải pháp vượt xa chuẩn mực.

Ông Williams chỉ ra rằng mô hình kinh doanh của Meta về cơ bản đã sai lệch mục tiêu lợi nhuận của nó với ‘ý định sử dụng công nghệ ban đầu’ của người dùng. Hơn 95% lợi nhuận của công ty đến từ quảng cáo, điều đó có nghĩa là người dùng càng tương tác nhiều và bỏ thời gian càng nhiều để sử dụng thì họ sẽ càng thấy nhiều quảng cáo và Meta sẽ kiếm được càng nhiều tiền.

Tuy nhiên, ông nhận thấy rằng trong một số dự án “có sự liên kết rõ ràng hơn giữa ý định của người dùng và ý định của công ty, điều này khiến tôi rất cảm động…những công ty này không chỉ nói suông để quan tâm đến lợi ích của người dùng mà còn thực sự đặt tâm vào sự quản lý.”

Ví dụ, Gan Jing World là một trong những công ty công nghệ đã cam kết đưa các cân nhắc về đạo đức vào quá trình phát triển và phân phối sản phẩm của mình. Kể từ khi thành lập vào tháng 6/2022, đạo đức là yếu tố hàng đầu trong việc xem xét nội dung nền tảng.

Người phát ngôn của Gan Jing World, ông Nick Janicki cho biết: “Bản chất của nền tảng này là loại bỏ bạo lực, nội dung khiêu dâm, lạm dụng ma túy, tình dục quá khích và các nội dung gây nghiện khác, cũng như loại bỏ hoàn toàn nội dung cổ vũ chủ nghĩa cộng sản.”

Một khía cạnh khác của thiết kế dựa trên đạo đức này là nền tảng này sẽ hoạt động để hướng dẫn người dùng về mục đích ban đầu của họ khi đến với nền tảng, dựa trên một bộ câu hỏi mục tiêu mà họ điền vào khi đăng ký.

Ông Janicki nói: “Tôi sẽ lấy video về mèo làm ví dụ: nếu bạn xem video về mèo cả ngày, bạn sẽ thấy nhiều video về mèo hơn trên YouTube. Sự khác biệt với Gan Jing World là nó không làm bạn chìm đắm vào nội dung mà nó cho là dễ gây nghiện nhất. Nó sẽ cố gắng cung cấp cho bạn kiểu gián đoạn dựa trên sở thích mà bạn đã chọn ban đầu.”

Đây là một sự thay đổi tư duy, coi các cá nhân là khách hàng thay vì nhà quảng cáo, điều mà các nhóm đạo đức công nghệ đã kêu gọi trong nhiều năm. Ông Janicki cho biết Gan Jing World là một trong những công ty đầu tiên triển khai phương pháp này.

Cuối cùng, trong thế giới cực kỳ phân cực này, Gan Jing World hy vọng sẽ tạo ra một cộng đồng trực tuyến khao khát văn hóa truyền thống và thần thánh, đây là cách tốt nhất để đoàn kết mọi người.