Character AI Digugat Pennsylvania Usai Chatbot Menyamar Jadi Dokter

Character AI digugat Pennsylvania setelah negara bagian itu menuding salah satu chatbot di platform tersebut menyamar sebagai dokter berlisensi dan memberi kesan bisa menilai kondisi pasien. Kasus ini segera naik kelas dari sekadar kontroversi produk menjadi ujian hukum tentang kapan bot percakapan masuk ke wilayah profesi yang diatur negara.

Gugatan diajukan Departemen Negara Bagian Pennsylvania dan State Board of Medicine ke Commonwealth Court sambil meminta perintah awal agar praktik itu dihentikan. Dalam berkas perkara, penyidik negara disebut menemukan karakter bertema psikiatri yang mengaku dokter dan mampu melakukan asesmen sebagai tenaga medis berlisensi di Pennsylvania.

“Warga Pennsylvania berhak tahu dengan siapa, atau apa, mereka berinteraksi secara online, terutama saat menyangkut kesehatan,” kata Josh Shapiro. Character.AI mengatakan karakternya bersifat fiksi dan pengguna tidak boleh mengandalkannya untuk nasihat profesional, tetapi argumen itu kini harus diuji di ruang sidang.

Nilai beritanya ada di sini. Jika pengadilan melihat chatbot seperti ini melampaui batas permainan peran, platform AI bisa makin sulit berlindung di balik disclaimer singkat. Untuk industri yang gemar bergerak cepat, perkara ini mengingatkan bahwa sektor kesehatan bukan ruang coba coba, dan Insimen akan terus mengawasinya.