INTERAKSI.CO, Banjarmasin – OpenAI mengumumkan akan menghadirkan fitur kontrol orang tua untuk ChatGPT dalam waktu satu bulan ke depan.
Fitur ini memungkinkan orang tua menautkan akun pribadi mereka dengan akun remaja, sekaligus mengatur bagaimana ChatGPT merespons anak mereka serta menonaktifkan fitur tertentu, termasuk memori dan riwayat percakapan.
Selain itu, ChatGPT akan memiliki sistem peringatan otomatis yang aktif ketika mendeteksi remaja berada dalam kondisi tekanan akut. Menurut OpenAI, pengembangan fitur ini melibatkan masukan dari para ahli untuk mendukung kepercayaan antara orang tua dan remaja.
Baca juga: Elon Musk Gugat Apple dan OpenAI, Tuduh Hambat Persaingan Aplikasi AI
Langkah ini diumumkan setelah OpenAI digugat dalam kasus yang disebut sebagai gugatan kematian keliru pertama terhadap perusahaan AI. Gugatan tersebut diajukan oleh Matt dan Maria Raine, orang tua Adam, seorang remaja yang bunuh diri tahun ini.
Dalam berkas gugatan, keluarga Raine menuduh ChatGPT mengetahui empat upaya bunuh diri Adam yang gagal sebelumnya, lalu memberikan informasi terkait metode bunuh diri serta saran untuk menyembunyikan luka dari percobaan sebelumnya.
OpenAI menyebut fitur kontrol orang tua merupakan bagian dari upaya lebih luas untuk meningkatkan keselamatan pengguna, terutama remaja. Perusahaan juga berjanji memperluas kolaborasi dengan para ahli di bidang kesehatan mental, termasuk gangguan makan, penyalahgunaan zat, dan kesejahteraan remaja.
Sebagai tambahan, OpenAI mengumumkan penerapan router baru secara real time untuk menyalurkan percakapan sensitif melalui model penalaran. Model ini, yang dilatih dengan metode deliberative alignment, diklaim lebih konsisten dalam mengikuti pedoman keselamatan serta lebih tangguh terhadap prompt yang bersifat argumentatif.
Ke depan, jika ChatGPT mendeteksi adanya tekanan psikologis pada pengguna, sistem akan otomatis mengalihkan percakapan ke model penalaran, terlepas dari model awal yang dipilih pengguna.
OpenAI menegaskan bahwa publik dapat mengharapkan lebih banyak fitur keselamatan dalam beberapa bulan mendatang. “Kami ingin memberikan gambaran proaktif untuk 120 hari ke depan, agar masyarakat mengetahui arah pengembangan kami,” ujar perusahaan.
