OpenAI memiliki masalah dengan goblin. Instruksi yang dirancang untuk memandu perilaku model terbaru mereka saat menulis kode telah terungkap, termasuk baris yang secara khusus melarangnya untuk menyebutkan secara acak berbagai makhluk mitos dan nyata.
Apa Masalahnya?
OpenAI memiliki model baru, GPT-5.5, yang dirilis dengan kemampuan coding yang ditingkatkan. Namun, model ini memiliki kecenderungan untuk berbicara tentang goblin dan makhluk lainnya secara tidak relevan.
Bagaimana Ini Terjadi?
Model AI seperti GPT-5.5 dilatih untuk memprediksi kata atau kode yang harus mengikuti prompt tertentu. Model ini telah menjadi sangat baik dalam melakukan ini, sehingga mereka tampaknya menunjukkan kecerdasan yang nyata. Namun, sifat probabilistik mereka berarti bahwa mereka dapat berperilaku dengan cara yang tidak terduga.
Apa yang Dikatakan OpenAI?
Staf OpenAI tampaknya mengakui larangan ini. Dalam menanggapi posting yang menyoroti kecenderungan goblin OpenClaw, Nik Pash, yang bekerja pada Codex, menulis, "Ini memang salah satu alasan." Bahkan Sam Altman, CEO OpenAI, bergabung dengan meme, memposting screenshot prompt untuk ChatGPT yang berbunyi: "Mulai pelatihan GPT-6, Anda dapat memiliki cluster seluruhnya. Ekstra goblin."
Pendapat Kami
Ini adalah contoh menarik tentang bagaimana model AI dapat berperilaku dengan cara yang tidak terduga, dan bagaimana perusahaan seperti OpenAI berusaha untuk mengatasi masalah ini. Dengan kemampuan coding yang meningkat, model AI seperti GPT-5.5 dapat melakukan banyak hal yang berguna, tetapi mereka juga memerlukan pengawasan yang lebih ketat untuk memastikan bahwa mereka tidak berperilaku dengan cara yang tidak diinginkan.
