Dalam langkah luar biasa menuju menciptakan kecerdasan buatan (AI) yang lebih mirip dengan cara manusia belajar, para peneliti dari Microsoft Research Asia, Universitas Peking, dan Universitas Xi’an Jiaotong telah mengembangkan teknik inovatif kecerdasan buatan yang dapat meningkatkan kemampuan model bahasa besar (LLM) dalam menyelesaikan masalah matematika. Teknik ini, yang disebut “Learning from Mistakes” atau LeMa, memberikan kemampuan kepada kecerdasan buatan (AI) untuk memperbaiki kesalahan-kesalahannya sendiri, sebagaimana manusia belajar dari kesalahan mereka.
Dalam sebuah makalah penelitian yang diterbitkan minggu ini, peneliti menjelaskan bahwa LeMa bekerja dengan mengajarkan model AI untuk mengidentifikasi dan memperbaiki kesalahan dalam penalaran matematika. Prosesnya mirip dengan pembelajaran manusia, di mana seorang siswa belajar dari kesalahan yang mereka buat untuk meningkatkan kinerja di masa depan.
Sebagai langkah pertama, para peneliti membuat model LLaMA-2 menghasilkan jalur penalaran yang cacat untuk masalah matematika berbentuk kata. Kemudian, menggunakan data GPT-4, mereka mengidentifikasi dan menjelaskan kesalahan dalam penalaran, serta memberikan jalur penalaran yang benar. Data yang diperbaiki ini kemudian digunakan untuk melatih kembali model asli.
Hasil dari pendekatan ini luar biasa, meningkatkan kinerja model LLM secara konsisten di lima LLM backbone dan dua tugas penalaran matematika. Bahkan, LLM khusus seperti WizardMath dan MetaMath juga mendapat manfaat signifikan dari LeMa, mengungguli kinerja model open-source pada tugas-tugas yang menantang.
Pentingnya temuan ini tidak hanya terletak pada peningkatan kemampuan penalaran AI, tetapi juga menandai langkah signifikan menuju pembuatan sistem AI yang dapat belajar dan memperbaiki diri dari kesalahan, sebagaimana manusia melakukannya.
Penelitian dan Kode Tersedia Untuk Umum dengan Pendekatan Open-Source
Penelitian ini, bersama dengan kode, data, dan model yang dihasilkannya, kini telah dibuka untuk publik di GitHub. Pendekatan open-source ini diharapkan akan mendorong komunitas AI lebih luas untuk terus mengeksplorasi konsep ini, membuka jalan bagi kemajuan lebih lanjut dalam pembelajaran mesin.
Adanya LeMa tidak hanya menjadi tonggak penting dalam dunia kecerdasan buatan, tetapi juga membuka peluang revolusioner di sektor-sektor seperti kesehatan, keuangan, dan kendaraan otonom. Dengan kemampuan AI untuk memperbaiki kesalahan dan terus belajar, kita dapat melihat masa depan yang mendekati di mana AI dapat melampaui kemampuan manusia dalam menyelesaikan masalah yang kompleks. Terobosan dalam pembelajaran mesin ini menjanjikan potensi yang menarik dalam pengembangan kecerdasan buatan yang lebih efisien dan efektif.