Google ma już kilkuletnią tradycję nazywania przełomowych rozwiązań z użyciem członu Alpha – od jego spółki-matki Alphabet. Mieliśmy więc AlphaGo, program, który pokonał ludzkich graczy w starożytnej chińskiej grze Go, choć przez wiele lat sądzono, że jest to gra, w której maszyna nie ma szans z człowiekiem. Mamy również AlphaFold, serię modeli AI symulujących ułożenie przestrzenne cząsteczek, w szczególności białek. Za te modele dwóch badaczy Google Deep Mind, Demis Hassabis i John Jumper, dostało w zeszłym roku Nagrodę Noble w dziedzinie chemii.
Tym razem Google zaprezentował AlphaEvolve. To system AI, który jest w stanie zaprojektować algorytmy, rozwiązywać problemy matematyczne i zaproponować konkretne rozwiązania techniczne.
AI odkrywa nowe algorytmy i rozwiązuje problemy
Duże modele językowe już od pewnego czasu umieją – lepiej lub gorzej – pisać programy komputerowe. Narzędzia takie jak GitHub Copilot czy Cursor są od wielu miesięcy używane przez programistów na całym świecie do przyspieszenia pisania kodu. Niektóre z tych modeli stały się tak w tym dobre, że są w stanie zbudować całkiem złożone programy.
AlphaEvolve idzie o krok dalej – stara się wprowadzić takie zmiany w kodzie, by ulepszyć algorytm, na jakim dany program jest oparty.
Jak pisze Google DeepMind w raporcie na temat AlphaEvolve, system ten „steruje autonomiczną sekwencją (pipeline) modeli językowych (LLM). Zadaniem sekwencji jest ulepszanie algorytmu poprzez bezpośrednie zmiany w kodzie. Wykorzystując podejście ewolucyjne, stale otrzymując informacje zwrotne od jednego lub więcej podsystemów oceny, AlphaEvolve iteracyjnie poprawia algorytm. Potencjalnie prowadzi to do nowych odkryć naukowych i praktycznych.”
Jak widzimy, nie mamy tu do czynienia z prostym LLM-em, a z systemem agentowym opartym na dużych modelach językowych.
Umiejętności nowego systemu od Google nie ograniczają się do programowania i algorytmiki. AlphaEvolve potrafi również rozwiązywać problemy matematyczne. Badacze Google postanowili sprawdzić, jak ten system daje sobie radę z 50 złożonymi problemami matematycznymi. Okazało się, że w przypadku 75% z nich, nowy system był w stanie odtworzyć najlepsze istniejące rozwiązania, a w przypadku co piątego zagadnienia zaproponował rozwiązania lepsze, niż te dotychczas znane.
AlphaEvolve już zarabia dla Google
Umiejętności AlphaEvolve to nie tylko abstrakcje, to również rozwiązania, które pozwalają Google zarabiać pieniądze. Jak się okazuje, system działa wewnątrz Google już od roku i pozwolił firmie znaleźć kilka interesujących rozwiązań technicznych.
Nowy system zaproponował np. ulepszony algorytm szeregowania dla centrów danych. To pozwala firmie zaoszczędzić średnio 0,7% zasobów obliczeniowych. Liczba wydaje się niewielka, ale w przypadku tak dużej firmy jak Google może się to przełożyć na miliony dolarów oszczędności.
AlphaEvolve zaproponował również zmiany w kluczowym układzie odpowiedzialnym za mnożenie macierzy. Czyli jednej z podstawowych operacji wykonywanych przez akceleratory AI, takie jak karty H100 Nvidii czy TPU (Tensor Processing Unit) od Google. Zmiana zostanie zaimplementowana w kolejnej wersji TPU.
System Google zaproponował również zmiany w architekturze modeli Gemini, co pozwoliło nieco przyspieszyć proces trenowania modeli. Zmiana znowu nie jest olbrzymia – raptem 1%. Pamiętajmy jednak, że takie trenowanie potrafi kosztować setki milionów dolarów, więc ten 1% to kilka milionów oszczędności.
Jak dotąd AlphaEvolve był wykorzystywany tylko przez Google, ale firma planuje dać dostęp do systemu wybranym badaczom z uczelni wyższych. Ale również „rozważa możliwości” udostępnienia systemu szerszej publice. Na pewno niejeden badacz chętnie wypróbowałby możliwości nowego systemu. Zwłaszcza, że Google zakłada, że mógłby on być przydatny na przykład w takich dziedzinach jak materiałoznawstwo czy farmaceutyka.
Źródło zdjęcia: Luca Bravo/Unsplash