Platform OpenAI mendapatkan beberapa perubahan besar ketika perusahaan mengumumkan empat pembaruan pada ‘DevDay’ di San Francisco pada hari Selasa (1 Oktober).
Ini termasuk ‘Realtime API’, ‘Prompt Caching’, ‘Model Distillation’, dan dukungan untuk penyesuaian.
Tim membuatnya agar penambahan baru dapat terlihat dan dapat digunakan sejak tanggal pengumuman, dan beberapa akan mengalami penyesuaian lebih lanjut setelah masukan telah dikumpulkan.
Hari ini di DevDay SF, kami meluncurkan sejumlah kemampuan baru ke platform OpenAI: pic.twitter.com/y4cqDGugju
— Pengembang OpenAI (@OpenAIDevs) 1 Oktober 2024
Empat pembaruan OpenAI diumumkan
‘API Waktu Nyata’
Salah satu pembaruan OpenAI yang paling signifikan adalah ‘Realtime API’ yang menawarkan kemampuan bagi pengembang untuk “membangun pengalaman ucapan-ke-ucapan yang cepat ke dalam aplikasi mereka.”
API beta publik telah diluncurkan yang dijuluki mirip dengan Model Suara Tingkat Lanjut ChatGPT. Hal ini akan memungkinkan “semua pengembang berbayar untuk membangun pengalaman multimodal dengan latensi rendah dalam aplikasi mereka.”
Input dan output audio di Chat Completions API telah diperkenalkan untuk mendukung kasus penggunaan yang tidak memerlukan manfaat latensi rendah dari Realtime API. Artinya, developer kini dapat meneruskan input teks atau audio apa pun ke GPT-4o dan model akan merespons dengan pilihan teks, audio, atau keduanya.
Sebelumnya, menciptakan pengalaman asisten suara serupa memerlukan beberapa langkah termasuk menggunakan model lain untuk mewujudkannya.
‘Caching Cepat’
Untuk lebih membantu mereka yang membangun aplikasi AI, ‘Prompt Caching’ telah diumumkan yang akan mengurangi biaya dan latensi. “Dengan menggunakan token masukan yang baru-baru ini terlihat, pengembang bisa mendapatkan diskon 50% dan waktu pemrosesan yang lebih cepat,” tulis OpenAI dalam rilis berita seluruh perusahaan.
Ini telah diterapkan secara otomatis pada versi terbaru GPT-4o, GPT-4o mini, o1 preview dan o1-mini, serta versi model yang telah disempurnakan.
‘Model Distilasi’
‘Model Distillation’ yang baru bertujuan untuk menyediakan alur kerja terintegrasi yang dapat membantu mengelola seluruh jalur distilasi langsung dalam platform OpenAI.
“Hal ini memungkinkan pengembang dengan mudah menggunakan keluaran model terdepan seperti o1-preview dan GPT-4o untuk menyempurnakan dan meningkatkan kinerja model yang lebih hemat biaya seperti GPT-4o mini.”
Sebelum pengenalan ini, distilasi memerlukan beberapa langkah manual sedangkan fitur baru ini seharusnya lebih mudah dan cepat.
Rangkaian lengkapnya mencakup Penyelesaian Tersimpan, Evaluasi, dan Penyempurnaan, yang semuanya tersedia pada hari Selasa.
‘Penyempurnaan visi’ adalah pembaruan OpenAI keempat
OpenAI telah menerapkan penyempurnaan pada GPT-4o yang sebelumnya telah digunakan oleh “ratusan ribu pengembang”, namun tim tersebut mengatakan bahwa pembaruan ‘penyempurnaan visi’ yang baru kini juga memungkinkan penyempurnaan gambar. sebagai teks.
Versi gambar ini bekerja dengan cara yang mirip dengan apa yang terlihat pada teks, dimana pengembang dapat menyiapkan kumpulan data gambar mereka untuk mengikuti format yang tepat dan kemudian mengunggahnya ke platform.
Ini hanya dapat digunakan oleh mereka yang menggunakan tingkat penggunaan berbayar dan didukung pada snapshot model GPT-4o terbaru.
Gambar Unggulan: Melalui Postingan OpenAIDevs X
Pos OpenAI membagikan empat pembaruan besar di San Francisco DevDay muncul pertama kali di ReadWrite.
