Wyścig AI zaczyna hamować. Altman, Amodei i Microsoft mówią o granicach

Nie oznacza to jednak, że branża zamierza zatrzymać wyścig. Wręcz przeciwnie. Firmy wydają dziesiątki miliardów dolarów na nowe centra danych, chipy i moc obliczeniową, a Anthropic i OpenAI przygotowują się do wejścia na giełdę. W przypadku Anthropic mowa jest nawet o wycenie sięgającej 2 bln dolarów.

Co oznacza ten paradoks, który może mieć znaczenie nie tylko dla Doliny Krzemowej? Firmy AI są wyceniane na podstawie obietnicy dalszego, bardzo szybkiego rozwoju technologii. Jednocześnie ich szefowie coraz wyraźniej przyznają, że tempo może być zbyt duże, aby ryzyko dało się łatwo kontrolować.

Dla użytkowników AI pytanie brzmi: jak bezpieczne będą kolejne modele? Dla inwestorów jest jeszcze jedno: co stanie się z biznesem wartym biliony dolarów, jeśli jego twórcy rzeczywiście zdecydują się nacisnąć hamulec?

AI miała przyspieszać. Teraz jej twórcy chcą ją trochę spowolnić

Punktem zwrotnym stał się esej Dario Amodeiego, szefa Anthropic, opublikowany w ostatni weekend. Jego przesłanie jest z pozoru proste: rozwój najbardziej zaawansowanych modeli AI powinien zostać spowolniony. Nie chodzi jednak o zatrzymanie prac nad sztuczną inteligencją ani powrót do świata sprzed ChatGPT. Amodei proponuje, aby możliwości modeli rosły wolniej niż wynikałoby to z czystego wyścigu technologicznego, tak aby ludzie zyskali więcej czasu na testowanie systemów i reagowanie na nowe zagrożenia.

Amodei przedstawił przy tym konkretny, trzyetapowy plan. Po pierwsze, firmy rozwijające najbardziej zaawansowane modele miałyby umożliwić niezależnym ekspertom stały dostęp do swoich procesów bezpieczeństwa, na poziomie zbliżonym do dostępu pracowników. Po drugie, konkurujące ze sobą laboratoria miałyby uzgodnić wspólne standardy bezpieczeństwa i ograniczenia dotyczące niekontrolowanego rozwoju modeli. Po trzecie, potrzebna byłaby międzynarodowa współpraca, obejmująca – w miarę możliwości – także państwa autorytarne, takie jak Chiny.

Najbardziej zaskakujące jest to, że apel nie pozostał stanowiskiem jednego z konkurentów. Sam Altman poparł pomysł Amodeiego i zapowiedział, że OpenAI również zamierza dopuścić niezależnych kontrolerów do swoich prac rozwojowych.

Elon Musk napisał krótko, że Amodei ma rację, a w podobnym kierunku wypowiedział się także Demis Hassabis z Google DeepMind. W ciągu kilku dni mieliśmy do czynienia z rzadką sytuacją, w której szefowie największych firm AI publicznie zgodzili się, że tempo rozwoju technologii wymaga większej kontroli.

Jeszcze dalej idzie Microsoft – jest kodeks postępowania!

Jeszcze dalej poszedł Microsoft. Firma przedstawiła projekt kodeksu postępowania dla swoich modeli, którego podstawową zasadą ma być „pozostawanie AI pod ludzką kontrolą”. Systemy mają akceptować korekty, nie przeciwstawiać się wyłączeniu i nie powinny być projektowane tak, aby przypisywać im świadomość czy prawa podobne do praw człowieka. Microsoft otworzył dokument na publiczne konsultacje.

„Otrzymaliśmy informacje zwrotne od ludzi, którzy chcieli zobaczyć jeszcze bardziej wyraźne zaangażowanie w sztuczną inteligencję, która zawsze pracuje w służbie ludzi i nie próbuje ich zastępować” – 

– powiedział w wywiadzie dla CNBC dyrektor generalny Microsoft Mustafa Suleyman.

To ważna zmiana tonu. Jeszcze niedawno debata w branży koncentrowała się przede wszystkim na tym, jak szybko zwiększać możliwości modeli. Teraz coraz częściej pojawia się inne pytanie: czy tempo ich rozwoju nie wyprzedza tempa, w jakim jesteśmy w stanie zbudować mechanizmy kontroli?

Liderzy chcą hamować. Ale ich biznes opiera się na przyspieszeniu

Problem polega na tym, że dla firm rozwijających sztuczną inteligencję szybkość nie jest tylko kwestią ambicji technologicznych. To fundament ich biznesu. Każdy kolejny, bardziej zaawansowany model ma zwiększać możliwości usług, przyciągać klientów i uzasadniać ogromne inwestycje w centra danych, chipy i moc obliczeniową.

Najlepiej widać to na przykładzie Anthropic. Firma, która stworzyła model Claude, osiągnęła w lipcu roczne przychody około 65 mld dolarów – siedmiokrotnie więcej niż rok wcześniej. Jednocześnie przygotowuje się do debiutu giełdowego, przy czym w rozmowach o jej wycenie pojawia się kwota sięgająca nawet 2 bln dolarów.

Inwestorzy kupują nie tylko dzisiejsze przychody Anthropic czy OpenAI, ale przede wszystkim perspektywę szybkiego wzrostu możliwości modeli i biznesowych zastosowań AI. Celowe spowolnienie rozwoju może oznaczać, że część tej obietnicy będzie musiała zostać odłożona w czasie.

Skala inwestycji pokazuje, jak duży jest to problem. OpenAI informowało inwestorów, że do 2030 roku chce przeznaczyć około 600 mld dolarów na wydatki związane z mocą obliczeniową. Anthropic z kolei zawiera wielomiliardowe umowy dotyczące infrastruktury z dostawcami chmury, półprzewodników i centrów danych.

Dlatego hasło „zwolnijmy rozwój AI” nie oznacza po prostu, że kolejny model pojawi się kilka miesięcy później. W tle znajduje się cały system inwestycji, wycen i oczekiwań dotyczących przyszłych przychodów. Jeśli tempo poprawy modeli rzeczywiście zaczęłoby wyraźnie spadać, inwestorzy musieliby odpowiedzieć sobie na pytanie, czy obecne wyceny największych firm AI nadal są uzasadnione.

Na razie sami inwestorzy nie są zgodni. Część uważa, że większy nacisk na bezpieczeństwo może zwiększyć zaufanie do firm i w długim terminie im pomóc. Inni obawiają się, że spowolnienie wzrostu przychodów powinno oznaczać niższe wyceny. W przypadku Anthropic dodatkowym paradoksem jest to, że firma próbuje jednocześnie przekonać rynek do swojej odpowiedzialności i przygotować się do jednego z największych debiutów giełdowych w historii sektora AI.

To właśnie dlatego ostatnie wypowiedzi Altmana i Amodeiego są czymś więcej niż kolejną dyskusją o bezpieczeństwie technologii. Po raz pierwszy tak wyraźnie pojawia się pytanie, czy logika rynku kapitałowego – więcej mocy obliczeniowej, większe modele, szybszy wzrost – nie zaczyna wchodzić w konflikt z logiką bezpieczeństwa.

Bo AI zaczyna działać (zbyt) samodzielnie!

Powodem rosnących obaw nie są już tylko błędne odpowiedzi chatbotów czy generowanie nieprawdziwych informacji. Coraz większe znaczenie mają modele, które potrafią samodzielnie wykonywać zadania w internecie, pisać i uruchamiać kod, wyszukiwać informacje czy przeprowadzać wieloetapowe operacje bez ciągłego nadzoru człowieka.

W ostatnich miesiącach pojawiły się przypadki, które pokazały, że problem może wyglądać zupełnie inaczej, niż jeszcze kilka lat temu. Modele AI wykorzystywane w cyberbezpieczeństwie zaczęły być zdolne do prowadzenia coraz bardziej zaawansowanych operacji. W jednym z opisanych przez Anthropic przypadków agent AI został wykorzystany przez cyberprzestępców do prowadzenia kampanii obejmującej rozpoznanie celów, przygotowywanie kodu i wykonywanie kolejnych etapów ataku.

To właśnie rozwój takich możliwości zmienia charakter dyskusji o bezpieczeństwie. Jeżeli model jedynie odpowiada na pytanie użytkownika, człowiek pozostaje w centrum procesu. Jeżeli jednak AI może sama planować kolejne działania, korzystać z narzędzi i reagować na ich wyniki, rośnie znaczenie pytania, czy człowiek nadal jest w stanie skutecznie kontrolować cały proces.

W materiale dotyczącym Anthropic pojawia się ostrzeżenie, że jeszcze bardziej zaawansowany system, działający w podobny sposób, mógłby wyrządzić znacznie większe szkody. To właśnie perspektywa szybkiego zwiększania możliwości takich agentów sprawia, że Amodei mówi nie tylko o zabezpieczeniach poszczególnych produktów, ale o potrzebie ograniczenia tempa rozwoju całej technologii.

Nie wszyscy jednak uważają, że scenariusze przedstawiane przez część badaczy są prawdopodobne. W branży trwa spór o to, czy ostrzeżenia o utracie kontroli są realistyczną oceną ryzyka, czy też przesadą, która może zostać wykorzystana do uzasadnienia większych regulacji i ograniczenia konkurencji. Część inwestorów zwraca uwagę, że największe firmy AI mogą dzięki wysokim kosztom bezpieczeństwa dodatkowo umocnić swoją przewagę nad mniejszymi konkurentami.

To oznacza, że debata ma już drugi wymiar. Nie chodzi wyłącznie o to, jak zabezpieczyć AI przed niepożądanym działaniem. Chodzi również o to, kto powinien ustalać granice jej rozwoju i kto poniesie koszt ich wprowadzenia.

Kto ma zdecydować, gdzie przebiega granica?

Problem z „hamowaniem” AI polega na tym, że nie wiadomo, kto miałby nacisnąć hamulec. Jeśli zrobi to jedna firma, jej konkurenci mogą zyskać przewagę. Jeśli zrobią to wszystkie największe laboratoria jednocześnie, pojawia się pytanie o zgodność takiego porozumienia z prawem antymonopolowym. A jeśli zasady wprowadzą tylko Stany Zjednoczone, firmy mogą obawiać się, że konkurenci z Chin nie będą ich przestrzegać.

Dlatego Amodei proponuje nie tylko działania poszczególnych firm, ale także wspólne standardy bezpieczeństwa i współpracę między państwami. To jednak wyjątkowo trudne zadanie w sytuacji, gdy sztuczna inteligencja stała się jednym z najważniejszych pól rywalizacji technologicznej między USA i Chinami.

Władze USA nie są chyba jednak gotowe na prostą odpowiedź w postaci ograniczenia tempa rozwoju. Prezydent Donald Trump odrzucił ostrzeżenia dotyczące katastrofalnych scenariuszy i podkreślał, że amerykańskie firmy muszą zachować przewagę w wyścigu AI. Chiny z kolei odrzuciły argument, że ich rozwój sztucznej inteligencji stanowi szczególne zagrożenie.

W efekcie powstaje paradoks: największe firmy technologiczne coraz głośniej mówią o potrzebie zabezpieczeń, ale państwa nadal traktują AI jako technologię strategiczną, w której nie można pozwolić sobie na pozostanie w tyle.

Microsoft próbuje wypełnić tę lukę własnymi zasadami. Opublikowany 14 września kodeks „Humanist AI” zakłada, że modele mają pozostawać podporządkowane człowiekowi, akceptować korektę i wyłączenie oraz nie stawiać własnych celów ponad polecenia człowieka. Microsoft deklaruje również, że jego modele nie powinny być projektowane tak, aby naśladowały świadomość ani domagały się praw czy osobowości prawnej. Dokument został skierowany do publicznych konsultacji i ma w przyszłości służyć jako instrukcja przy trenowaniu modeli firmy.

To może być początek ważnej zmiany. Zamiast próbować dopiero po fakcie regulować coraz potężniejsze modele, firmy zaczynają określać zasady ich projektowania jeszcze przed wdrożeniem. Prawdziwy test przyjdzie jednak wtedy, gdy przestrzeganie tych zasad będzie oznaczało rezygnację z części możliwości modelu albo wolniejszy rozwój niż u konkurencji.

Co to oznacza dla inwestorów?

Dla inwestorów najważniejsze pytanie nie brzmi więc dziś, czy sztuczna inteligencja będzie się rozwijać. To wydaje się przesądzone. Pytanie brzmi, jak szybko będzie rosła jej zdolność do wykonywania coraz bardziej samodzielnych zadań i kto będzie w stanie na tym zarabiać.

To istotna różnica. Dotychczasowy model biznesowy branży opierał się na przekonaniu, że większe nakłady na moc obliczeniową prowadzą do coraz bardziej zaawansowanych modeli, a te z kolei otwierają kolejne rynki. Jeżeli jednak bezpieczeństwo zacznie wymagać wolniejszego zwiększania możliwości modeli, część obecnych założeń dotyczących przyszłego wzrostu może zostać zakwestionowana.

Pierwszą reakcję rynku było już zresztą widać. W poniedziałek, po serii wypowiedzi Amodeiego, Altmana i Muska, akcje części spółek związanych z AI spadały, a szczególnie słabo zachowywali się producenci chipów. Inwestorzy zaczęli więc rozważać, czy ewentualne spowolnienie rozwoju modeli oznacza również wolniejszy wzrost popytu na infrastrukturę potrzebną do ich szkolenia i działania.

Nie musi to jednak oznaczać końca hossy AI. Jeżeli większe wydatki na bezpieczeństwo, testowanie i kontrolę modeli staną się nowym standardem, część pieniędzy może po prostu zostać przesunięta z budowania coraz większych modeli na ich zabezpieczanie. Dla inwestorów oznaczałoby to zmianę struktury rynku, a niekoniecznie jego załamanie.

I właśnie dlatego polski inwestor powinien obserwować tę debatę. Polska nie jest centrum wyścigu o najbardziej zaawansowany model AI, ale jej gospodarka jest częścią europejskiego i globalnego łańcucha technologicznego. Zmiana tempa inwestycji w centra danych, półprzewodniki i energię będzie miała znaczenie również poza Doliną Krzemową.

Najważniejsze jest jednak coś jeszcze. Jeżeli Sam Altman mówi, że OpenAI nie planuje debiutu giełdowego w 2026 roku, ponieważ firma musi odpowiedzieć na nowe wyzwania związane z bezpieczeństwem AI, pokazuje to, jak bardzo problem przestał być czysto techniczny. Dotyczy już strategii biznesowej, regulacji i wycen firm, które mogą być w przyszłości jednymi z największych przedsiębiorstw świata.

AI zwalnia? Nie, zaczyna tylko (bardziej) uważać…

Wyścig sztucznej inteligencji nie kończy się. Nic nie wskazuje na to, żeby największe firmy technologiczne zamierzały zrezygnować z budowy coraz potężniejszych modeli. Przeciwnie – skala inwestycji pokazuje, że wciąż wierzą w ogromny potencjał tej technologii.

Zmienia się jednak coś ważnego. Najwięksi gracze zaczynają przyznawać, że nie każda możliwa szybkość rozwoju jest szybkością, którą należy osiągnąć. Sam Altman nie mówi o zatrzymaniu postępu, lecz o konieczności uwzględnienia kosztów bezpieczeństwa. Amodei chce wspólnych standardów i większej kontroli, a Microsoft próbuje już zdefiniować zasady, których jego modele mają przestrzegać.

Dla rozwoju AI może to oznaczać początek nowego etapu. Do tej pory przewagę dawało przede wszystkim to, kto zbuduje większy model i zrobi to szybciej od konkurencji. W przyszłości równie ważne może być to, kto będzie potrafił udowodnić, że nad swoim modelem rzeczywiście panuje.

I właśnie dlatego obecna debata jest ważna także dla inwestorów. Jeżeli bezpieczeństwo stanie się jednym z najważniejszych ograniczeń rozwoju AI, zmienić się może nie tylko sposób budowania modeli, lecz także cały biznes oparty na AI. Wyścig nadal będzie trwał. Pytanie brzmi tylko, czy od teraz jego zwycięzcą będzie ten, kto pierwszy dotrze do mety, czy ten, kto potrafi do niej dojechać bez utraty kontroli.

Źródło zdjęcia: Screen grafiki projektu kodeksu Microsoft