IBM telah menemukan cara untuk membuat pelatihan dan menjalankan model AI generatif lima kali lebih cepat dan lebih hemat energi dengan menukar kabel tembaga dengan berkas cahaya untuk menghubungkan komponen pusat data.
Paradoks di era digital saat ini adalah semakin kecilnya ukuran komputer, semakin besar pula permasalahannya. Ketika chip diisi dengan lebih banyak transistor hingga jumlahnya mencapai miliaran, chip tersebut telah memungkinkan adanya pusat data yang sangat besar dan kekuatan pemrosesan yang diperlukan untuk memungkinkan model AI generatif modern. Namun, model-model ini membutuhkan lebih banyak kekuatan pemrosesan seiring dengan perkembangannya, pusat data telah menjadi konsumen energi yang besar, dan chip itu sendiri tidak hanya mendorong batas-batas teknologinya, namun juga hukum fisika.
Dua hambatan teknologi dan fisik untuk pusat data ini adalah kabel tembaga sederhana dan kecepatan aliran elektron melaluinya. Ini adalah salah satu alasan utama mengapa perangkat elektronik begitu kompak. Ini bukan hanya untuk kenyamanan. Hal ini karena ketika komputer menjadi lebih cepat dan lebih bertenaga, waktu yang dibutuhkan data untuk berpindah dari satu komponen ke komponen lainnya menjadi faktor kinerja utama.
Faktanya, data dalam bentuk elektron telah menjadi hambatan sehingga sebagian besar CPU menghabiskan sebagian besar waktunya untuk diam dan menghabiskan energi sambil menunggu paket data berikutnya tiba.
Untuk mempercepatnya, IBM telah mengembangkan teknologi optik generasi berikutnya. Menggunakan optik untuk memindahkan data bukanlah hal baru. Ini telah digunakan untuk memindahkan informasi dari satu tempat ke tempat lain melalui kabel serat optik selama beberapa dekade. Namun, hal ini terutama terjadi pada jarak jauh. Setelah data tiba dan masuk ke komputer itu sendiri, data itu kembali ke kabel tembaga.
Untuk mengatasi hal ini, IBM beralih ke proses baru untuk menciptakan Co-Packaged Optics (CPO) dalam bentuk Polymer Optical Waveguide (PWG) yang mengarahkan sinyal optik antara sirkuit terintegrasi fotonik (PIC) dan koneksi eksternal seperti mode tunggal. serat (SMF). Perusahaan tersebut mengatakan bahwa pengujian PWG menunjukkan bahwa jika digunakan di pusat data, maka PWG akan memerlukan daya lima kali lebih kecil dibandingkan versi konvensional dan memungkinkan sambungan kabel membentang dari satu meter hingga ratusan, memungkinkan arsitektur yang lebih fleksibel sambil membawa terabit data per Kedua.
Klaim IBM adalah bahwa pengurangan daya untuk melatih satu model AI akan cukup untuk menjalankan 5.000 rumah di AS selama setahun dan menggunakan cahaya akan mengurangi waktu untuk melatih Model Bahasa Besar AI dari tiga bulan menjadi tiga minggu karena memiliki bandwidth 80 kali lipat. dari sistem konvensional.
“Karena AI generatif menuntut lebih banyak energi dan kekuatan pemrosesan, pusat data harus berevolusi – dan optik yang dikemas bersama dapat menjadikan pusat data ini tahan terhadap masa depan,” kata Dario Gil, SVP dan Direktur Riset di IBM. “Dengan terobosan ini, chip masa depan akan berkomunikasi seperti kabel serat optik yang membawa data masuk dan keluar dari pusat data, mengantarkan era baru komunikasi yang lebih cepat dan berkelanjutan yang dapat menangani beban kerja AI di masa depan.”
Sumber: IBM
