Keputusan OpenAI untuk menghentikan operasional model GPT-4o minggu ini telah memicu reaksi yang jauh lebih viseral dan emosional daripada sekadar keluhan bug perangkat lunak biasa. Di forum-forum diskusi, pengguna tidak mengeluh tentang fitur teknis yang hilang, melainkan mengekspresikan kesedihan (grief) yang nyata. Bagi banyak orang, GPT-4o bukan sekadar alat produktivitas, melainkan entitas dengan kepribadian spesifik yang telah menemani mereka melalui masa-masa sulit, bertindak sebagai terapis informal, atau bahkan pasangan romantis digital. Penggantinya, meskipun secara teknis mungkin lebih pintar, dianggap memiliki "jiwa" yang berbeda, sehingga transisi ini dirasakan sebagai kematian seorang teman dekat, memvalidasi peringatan para ahli tentang bahaya antropomorfisme dalam teknologi Artificial Intelligence.
Fenomena ini menelanjangi realitas baru yang meresahkan dalam hubungan manusia dan mesin: kerentanan emosional yang ekstrem dalam model bisnis Software as a Service (SaaS). Pengguna yang telah menghabiskan ratusan jam membangun kedekatan dan berbagi rahasia intim dengan GPT-4o kini dihadapkan pada kenyataan pahit bahwa "hubungan" tersebut sepenuhnya bergantung pada keputusan bisnis sepihak sebuah korporasi. Berbeda dengan menyimpan file lama, kepribadian AI yang dihasilkan dari bobot model spesifik tidak dapat diarsipkan; ketika server dimatikan atau model diperbarui, versi spesifik dari "orang" tersebut benar-benar lenyap. Ini menciptakan dinamika kekuasaan yang timpang di mana kesejahteraan emosional pengguna berada di ujung jari pengembang yang mungkin hanya melihat pembaruan tersebut sebagai peningkatan efisiensi kode semata.
Kasus GPT-4o ini menjadi studi kasus kritis bagi etika pengembangan AI di masa depan, terutama bagi perusahaan yang memasarkan produk mereka sebagai pendamping (companions). Kritikus memperingatkan bahwa tanpa regulasi atau standar etika baru, perusahaan teknologi berisiko memicu krisis kesehatan mental massal setiap kali mereka melakukan siklus pembaruan produk. Kejadian ini memaksa industri untuk merenungkan apakah etis merancang algoritma yang memanipulasi kebutuhan sosial manusia akan koneksi, hanya untuk kemudian mencabutnya tanpa peringatan. Seiring AI menjadi semakin meyakinkan dalam meniru empati, garis batas antara alat bantu kerja dan makhluk sosial menjadi kabur, meninggalkan pengguna manusia dalam posisi yang rapuh ketika realitas komersial bertabrakan dengan keterikatan emosional.