Generatywna sztuczna inteligencja na 20-letnim PowerBooku G4
Rozwój sztucznej inteligencji zazwyczaj kojarzy się z najnowszymi i niezwykle wydajnymi urządzeniami wyposażonymi w potężne procesory i ogromne ilości pamięci RAM. Okazuje się jednak, że nawet komputery sprzed dwóch dekad mogą uruchomić modele generatywnej AI. Takiego niezwykłego eksperymentu podjął się inżynier oprogramowania Andrew Rossignol, który z powodzeniem uruchomił model językowy Llama 2 na ponad 20-letnim PowerBooku G4.
Stary sprzęt, nowoczesna technologia
PowerBook G4, który Rossignol wykorzystał do eksperymentu, pochodzi z 2005 roku i jest wyposażony w procesor PowerPC G4 o taktowaniu 1,5 GHz oraz zaledwie 1 GB pamięci RAM. W porównaniu do dzisiejszych komputerów jest to konfiguracja wręcz archaiczna, jednak mimo ograniczeń sprzętowych udało się na nim uruchomić jeden z modeli sztucznej inteligencji opracowanych przez Meta – Llama 2.
Uruchomienie AI na tak starym laptopie wymagało niestandardowego podejścia. Rossignol skorzystał z projektu open-source o nazwie llama2.c i dostosował go do specyfiki procesora PowerPC. Kluczową rolę odegrała tutaj optymalizacja oparta na instrukcji wektorowej PowerPC – AltiVec, która pozwoliła na znaczną poprawę wydajności obliczeniowej. Choć sam proces wnioskowania (inference) był znacznie wolniejszy niż na nowoczesnych komputerach, osiągnięcie to udowodniło, że nawet przestarzały sprzęt jest w stanie obsługiwać modele AI, o ile zostaną odpowiednio zoptymalizowane.
Eksperymenty na klasycznych urządzeniach
Rossignol nie jest jedyną osobą, która próbowała uruchomić sztuczną inteligencję na starszych urządzeniach. Podobne eksperymenty przeprowadzano wcześniej na konsolach do gier, takich jak PlayStation 3 oraz Xbox 360. Co ciekawe, obie te konsole również bazują na architekturze PowerPC, co wskazuje na potencjalne możliwości optymalizacji AI dla starszych systemów obliczeniowych.
Tego typu próby są nie tylko niezwykle interesujące z technologicznego punktu widzenia, ale też rzucają nowe światło na wykorzystanie starszego sprzętu. Choć dzisiejsze modele sztucznej inteligencji wymagają ogromnych zasobów, odpowiednia optymalizacja i dopasowanie kodu do starszej architektury mogą otworzyć zupełnie nowe możliwości w zakresie wykorzystania przestarzałych komputerów i konsol.
Nowe życie dla starej elektroniki?
Eksperyment Rossignola to dowód na to, że stary sprzęt wciąż może mieć wartość w dzisiejszym, szybko rozwijającym się świecie technologii. Podczas gdy większość użytkowników uznaje stare laptopy i konsole za bezużyteczne, istnieją sposoby, aby nadać im nowe zastosowania. Być może w przyszłości zobaczymy więcej inicjatyw mających na celu rewitalizację starszych urządzeń i dostosowanie ich do nowoczesnych technologii.
Inżynierowie i entuzjaści technologii niejednokrotnie udowadniali, że kreatywność i odpowiednie umiejętności pozwalają na osiąganie nieoczekiwanych rezultatów. Kto wie, może wkrótce generatywna sztuczna inteligencja stanie się dostępna także na innych klasycznych urządzeniach?
