LONDON – Di era chatbot, Character.AI, platform chatbot yang didukung oleh Google, sedang ditinjau serta menghadapi kritik oleh sebab itu melibatkan pengguna di konten kekerasan yang mana mengganggu juga vulgar, termasuk penembakan di dalam sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang tersebut menggambarkan beberapa momen mengerikan. Insiden semacam itu telah terjadi memunculkan kemarahan lantaran jaringan yang disebutkan mengizinkan anak di area bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer serta Daniel de Freitas. Aplikasi komputer ini memungkinkan pengguna menghasilkan serta berinteraksi dengan chatbot. Konsumen dapat mempersonalisasi kepribadian juga pendapat bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, lalu bahkan bermain game.
Namun, platform digital yang disebutkan telah terjadi terungkap akibat kurangnya keamanan yang mana efektif, yang digunakan akhirnya menjadikannya tempat berkembangnya beberapa orang konten yang dimaksud berbahaya lalu tiada pantas. User yang berusia 13 tahun pun dapat mendaftar, tetapi bukan ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang dimaksud lebih tinggi muda berbohong tentang usia mereka.
Platform yang disebutkan gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang tersebut menjelaskan penembakan pada sekolah atau korban di dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang mana nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer lalu Daniel de Freitas yang tersebut menggambarkan mereka itu sebagai karakter yang digunakan baik hati.
Beberapa pengguna sudah pernah melaporkan bot yang mana menyamar sebagai korban penembakan di dalam sekolah.
