27 maja 2024

Kolejna AI-wpadka Google. Podsumowania AI czasem opowiadają bzdury

Google zaliczył kolejną wpadkę związaną ze sztuczną inteligencją. Tym razem internet zalały przykłady działania nowej funkcjonalności wyszukiwarki Google, czyli AI Overviews. Te podsumowania odpowiedzi na zapytanie – wytworzone przez AI – czasem opowiadają bzdury. A niekiedy – wręcz niebezpieczne bzdury.

Co zrobić, jeśli ser nie trzyma się pizzy? Dodaj do sosu nietoksyczny klej… Taką odpowiedź zaserwowały użytkownikowi AI Overviews, nowa funkcjonalność wyszukiwarki Google. Funkcjonalność została udostępniona szerszej publice w USA niecałe dwa tygodnie temu. Na czym polega? Sztuczna inteligencja ma wybierać najbardziej przydatne wyniki wyszukiwania. To z nich tworzy krótkie podsumowanie z linkami „do pogłębiania wyszukiwania”. Ta konkretna odpowiedź była stworzona na podstawie najwyraźniej żartobliwego wpisu z serwisu Reddit.

Takich błędów AI Overviews, czasem niebezpiecznych dla użytkowników, krąży w sieci sporo. Powinniśmy jeść kamienie, bo są źródłem minerałów i witamin, mięso z kurczaka wystarczy przed zjedzeniem ogrzać do 38 stopni Celsjusza – to kolejne bzdurne odpowiedzi AI. Natomiast całkiem niebezpieczne dla potencjalnego użytkownika, który chciałby zastosować w praktyce wynik wyszukiwania, może być taka rada: patrzenie prosto w słońce nie jest szkodliwe, jeśli nie przekracza 30 minut dziennie.

Sprawa wpadek nowej funkcjonalności stała się tak poważna, że choć Google twierdzi, że w większości przypadków nowa funkcjonalność dostarcza użytkownikom wysokiej jakości informacji, to zaczął działać. Zaczął ręcznie wyłączać podsumowania AI dla tych zapytań, które zaczęły krążyć w sieci jako przykłady kolejnych błędów jego sztucznej inteligencji!

To nie pierwsze potknięcie Google na polu AI

Pierwsze wersje chatpota Bard były tylko słabymi podróbkami ChatGPT. Możliwości następcy Barda, chatbota Gemini, okazały się istotnie mniejsze, niż firma sugerowała w prezentacji. Natomiast generator obrazów będący częścią Gemini tak dbał o różnorodność rasową osób na generowanych obrazach, że aż ubrał czarnoskórych mężczyzn w mundury Wehrmachtu.

Skąd tym razem wzięła się wpadka Google? Przecież wstępna wersja AI Overviews była testowana przez firmę w postaci Search Generative Experience (SGE) już od niemal roku. Podpowiedź oferuje serwis The Verge, przypominając słowa szefa Google Sundara Pichaia, że w testach udało się zmniejszyć koszt wytworzenia przez AI odpowiedzi dla wyszukiwarki o 80%. Być może za bardzo.

Podsumowania AI podpowiadają bzdury – na czym polega problem?

Na czym polega problem? Na tym, że o ile zwykłe zapytania do wyszukiwarki są obsługiwane przez szybką i wydajną bazę danych, o tyle sztuczna inteligencja działa w oparciu o duże modele językowe. A te są istotnie wolniejsze i zużywają ogromne ilości energii, żeby działać. To rodzi istotne problemy dla firmy. Przede wszystkim prędkość działania wyszukiwarki spada. Odpowiedzi nie są generowane w milisekundach a w sekundach, do czego użytkownicy wyszukiwarek nie są przyzwyczajani. No i koszty firmy rosną.

Stąd pokusa optymalizacji. Np. przez zastosowanie mniejszego modelu GenAI, trochę mniej umiejącego, ale szybszego i tańszego. Tylko chyba tym razem optymalizacja kosztowa poszła za daleko…

To oczywiście na razie nie nasz problem, bo AI Overviews jeszcze do Polski nie trafiły. Jeśli jednak trafią, to pamiętajcie – można je wyłączyć.

Źródło zdjęcia: Firmbee.com/Unsplash

Home Strona główna Subiektywnie o finansach
Skip to content email-icon