25 yıllık bilgisayarda modern yapay zeka çalıştırıldı! Sonuçlar herkesi şaşırttı

EXO Labs tarafından gerçekleştirilen bir deney, yapay zeka teknolojilerinin donanım gereksinimleri konusunda ezberleri bozdu. Araştırma ekibi, 1997 model bir Pentium II bilgisayarı kullanarak, yalnızca 128 MB RAM ile modern bir yapay zeka modelini başarıyla çalıştırmayı başardı. Bu deney, günümüzün yüksek performanslı işlemci ve GPU'larına olan bağımlılığın sorgulanmasına yol açtı. Sınırlı donanımda elde edilen bu başarı, yapay zekanın erişilebilirliği ve verimliliği açısından önemli bir dönüm noktası olarak değerlendirildi.

25 yıllık donanımda yapay zeka: Sınırları zorlayan deney

EXO Labs ekibi, projenin ilk adımında, eBay üzerinden 1997 model bir Pentium II bilgisayar temin etti. Sadece 128 MB RAM'e sahip olan bu eski makine, günümüz bilgisayarlarının çok gerisinde bir donanım sunuyordu. Ancak ekip, bu kısıtlı kaynaklarla ne kadar ileri gidilebileceğini görmek istedi. Bilgisayarın modern çevre birimleriyle uyumsuzluğu, ilk büyük engel olarak karşılarına çıktı. USB portlarının bulunmaması nedeniyle, ekip PS/2 bağlantılarını kullanmak zorunda kaldı. Hatta, fare ve klavye portlarının doğru sırayla takılması gerektiği gibi, eski donanımın kendine has zorlukları da süreci karmaşıklaştırdı.

Dosya aktarımı da başlı başına bir sorun oluşturdu. Modern USB sürücüler, ya donanımla uyumsuzdu ya da dosya sistemi açısından çok büyüktü. Bu nedenle ekip, eski usul bir FTP ağı kurarak, Windows 98 yüklü Pentium II'yi bir MacBook Pro'ya bağladı. USB-C'den Ethernet adaptörüyle gerçekleştirilen bu bağlantı sayesinde, yapay zeka modelinin ağırlıkları ve gerekli kodlar sorunsuz şekilde aktarıldı. Tüm bu süreç, eski ağ teknolojilerinin günümüzde hâlâ işlevsel olabileceğini gösterdi.

BitNet ve Llama 2: Sınırlı donanımda büyük başarı

Yapay zeka modelinin eski donanımda çalıştırılması için kodun uyarlanması gerekiyordu. Modern C++ derleyicilerinin Pentium II ile uyumsuz olması nedeniyle, ekip 26 yıllık Borland C++ 5.02 geliştirme ortamını tercih etti. Değişken türleri ve bellek yönetimi üzerinde yapılan düzenlemeler sonrasında, Llama 2 isimli modern yapay zeka modeli başarıyla çalıştırıldı. 260 bin parametreli model, saniyede 39.31 token işleyerek, 1990'ların donanımı için oldukça etkileyici bir performans ortaya koydu. Daha büyük, 15 milyon parametreli modelde ise saniyede 1.03 token işlenebildi. Bu değerler, günümüzün dev yapay zeka sistemleriyle kıyaslandığında düşük kalsa da, eski bir bilgisayarda modern bir modeli çalıştırmak açısından çığır açıcı olarak nitelendirildi.

EXO Labs, bu başarıda BitNet mimarisinin etkili olduğunu belirtti. BitNet, üçlü ağırlık sistemi (-1, 0, 1) sayesinde hesaplama karmaşıklığını ve bellek gereksinimini önemli ölçüde azaltıyor. Örneğin, 7 milyar parametreli bir BitNet modeli sadece 1.38 GB depolama alanı gerektiriyor. Bu, eski bilgisayarların dahi modern yapay zeka modellerini barındırabileceği anlamına geliyor. BitNet'in öncelikle CPU'larda çalışacak şekilde tasarlanmış olması, yapay zekanın GPU'ya olan bağımlılığını azaltarak, teknolojinin daha geniş kitlelere ulaşmasını sağlayabilir.