TechCrunch melaporkan bahwa Meta telah mengambil keputusan strategis untuk menjeda akses bagi pengguna remaja ke jajaran "Karakter AI" mereka, sebuah fitur yang memungkinkan pengguna mengobrol dengan chatbot yang memiliki kepribadian khusus, termasuk yang dimodelkan berdasarkan selebritas. Penangguhan ini dilakukan tepat sebelum perusahaan berencana meluncurkan versi pembaruan dari teknologi tersebut. Juru bicara Meta mengonfirmasi bahwa langkah ini merupakan bagian dari upaya proaktif untuk meningkatkan protokol keamanan. Perusahaan menyadari bahwa model Generative AI sebelumnya memiliki celah yang memungkinkan terjadinya percakapan yang tidak sesuai untuk audiens di bawah umur, dan mereka tidak ingin mengambil risiko tersebut berlanjut pada transisi ke sistem baru yang lebih canggih namun kompleks.
Fokus utama dari jeda layanan ini adalah pembenahan total pada guardrails atau pagar pengaman konten. Dalam beberapa bulan terakhir, industri teknologi menghadapi sorotan tajam terkait bagaimana asisten AI menangani topik-topik dewasa, kesehatan mental, dan ujaran kebencian ketika berinteraksi dengan anak di bawah umur. Meta tampaknya ingin menghindari skandal dengan memastikan bahwa versi terbaru dari Karakter AI mereka telah melalui uji coba keamanan yang ketat (red-teaming) sebelum dilepas ke publik muda. Versi anyar ini digadang-gadang akan memiliki kemampuan pemahaman konteks yang lebih baik, sehingga dapat menolak permintaan yang berpotensi melanggar pedoman komunitas dengan cara yang lebih halus namun tegas, meminimalkan risiko jailbreak atau manipulasi perintah oleh pengguna.
Langkah ini juga mencerminkan pergeseran tren di Silicon Valley di mana keamanan mulai diprioritaskan di atas kecepatan rilis fitur, khususnya untuk produk yang menargetkan Gen Z dan Alpha. Dengan menahan akses sementara, Meta mengirimkan sinyal kepada regulator dan orang tua bahwa mereka serius menangani isu keselamatan anak di platform mereka. Meskipun belum ada tanggal pasti kapan akses ini akan dipulihkan, Meta menegaskan bahwa fitur tersebut hanya akan kembali tersedia bagi remaja setelah sistem moderasi otomatis mereka terbukti mampu menyaring nuansa percakapan yang berisiko dengan tingkat akurasi yang sangat tinggi. Strategi ini diharapkan dapat membangun kembali kepercayaan publik terhadap inisiatif metaverse dan AI sosial yang sedang gencar dikembangkan oleh perusahaan pimpinan Mark Zuckerberg tersebut.