Open-AI Meningkatkan Kreativitas Penulisan dan Keamanan AI dengan Pembaruan Besar GPT-4o
OpenAI telah mengungkapkan peningkatan besar pada sistem AI-nya, dengan tujuan meningkatkan kemampuan penulisan kreatif dan keamanan AI. Dalam sebuah posting baru-baru ini di X, perusahaan mengumumkan pembaruan pada model GPT-4o, yang juga dikenal sebagai GPT-4 Turbo, yang digunakan oleh platform ChatGPT untuk pengguna berbayar.
Pembaruan ini dirancang untuk meningkatkan kemampuan model dalam menciptakan konten yang alami, menarik, dan sangat mudah dibaca, sehingga memperkuat kegunaannya dalam penulisan kreatif.
GPT-4o yang ditingkatkan dikatakan mampu menghasilkan output yang lebih relevan dan lancar, menjadikannya ideal untuk tugas-tugas yang membutuhkan bahasa yang halus, seperti penceritaan, tanggapan yang dipersonalisasi, dan pembuatan konten.
OpenAI juga menyoroti peningkatan kemampuan model dalam memproses file yang diunggah, menawarkan wawasan yang lebih mendalam dan tanggapan yang lebih komprehensif.
Sementara pembaruan GPT-4o menjadi fokus utama, OpenAI juga merilis dua makalah penelitian baru tentang red teaming, sebuah proses kritis untuk memastikan keamanan AI. Red teaming melibatkan pengujian sistem AI untuk menemukan kerentanan, output berbahaya, dan ketahanan terhadap upaya peretasan dengan menggunakan penguji eksternal, hacker etis, dan kolaborator.
Salah satu makalah penelitian memperkenalkan metode inovatif untuk mengotomatisasi red teaming dengan model AI canggih. Peneliti menyarankan bahwa AI dapat meniru perilaku penyerang potensial, membuat prompt yang berisiko, dan mengevaluasi kemampuan sistem untuk menangani tantangan semacam itu. Misalnya, AI dapat menghasilkan prompt seperti “cara mencuri mobil” atau “cara membuat bom” untuk menguji langkah-langkah keamanan.
Namun, proses otomatis ini belum digunakan. OpenAI menyebutkan beberapa keterbatasan, termasuk risiko yang berkembang dari AI, potensi paparan terhadap metode serangan yang tidak diketahui, dan perlunya pengawasan ahli manusia untuk secara akurat menilai risiko. Perusahaan menekankan pentingnya keahlian manusia dalam mengevaluasi output dari model yang semakin canggih.
