Nenek moyang ChatGPT, GPT-2, dimasukkan ke dalam lembar Excel 1,25 GB — LLM berjalan di dalam spreadsheet yang dapat Anda unduh dari GitHub

Pengembang perangkat lunak dan mengaku pecandu spreadsheet Ishan Anand telah memasukkan GPT-2 ke dalam Microsoft Excel. Yang lebih menakjubkan lagi, cara kerjanya – memberikan wawasan tentang cara kerja model bahasa besar (LLM), dan bagaimana arsitektur Transformer yang mendasarinya melakukan prediksi token berikutnya yang cerdas. “Jika Anda bisa memahami spreadsheet, maka Anda juga bisa memahami AI,” sesumbar Anand. Spreadsheet 1,25GB telah tersedia di GitHub untuk diunduh dan dimainkan oleh siapa saja.

Tentu saja, penerapan spreadsheet GPT-2 ini tertinggal dibandingkan LLM yang tersedia pada tahun 2024, namun GPT-2 adalah yang tercanggih dan menjadi berita utama pada tahun 2019. Penting untuk diingat bahwa GPT-2 bukanlah sesuatu yang untuk diajak ngobrol, karena berasal dari sebelum era 'ngobrol'. ChatGPT berasal dari pekerjaan yang dilakukan untuk meminta GPT-3 secara percakapan pada tahun 2022. Selain itu, Anand menggunakan model Kecil GPT-2 di sini, dan file Biner Microsoft Excel XLSB memiliki 124 juta parameter, dan versi lengkap GPT-2 menggunakan 1,5 miliar parameter (sementara GPT-3 melampaui batas, dengan parameter hingga 175 miliar).