Sugerowanie użytkownikom, by zjedli jeden kamień dziennie lub posypali pizzę nietoksycznym klejem, aby ser się nie zsuwał, może bawić jako żart, ale nie jako porada od największej korporacji technologicznej świata. Tak kuriozalne odpowiedzi, generowane przez nową funkcję wyszukiwarki Google, stały się viralem, ale w siedzibie firmy w Mountain View nikt się nie śmieje. Gigant postanowił działać zdecydowanie. Zamiast liczyć na cudowne samodoskonalenie się algorytmów, firma ruszyła na zakupy kadrowe. Tym razem poszukiwani są ludzie, którzy pomogą odróżnić fakty od fikcji.
Statystyki dają do myślenia
Google od lat utrzymuje pozycję lidera, przetwarzając około 90-91% wszystkich zapytań w internecie (dane Statcounter). W obliczu miliardów wyszukiwań każdego dnia, margines błędu ma kolosalne znaczenie. Wprawdzie Google nie chwali się oficjalnie, jak często ich AI się myli, niezależne firmy analityczne, zajmujące się jakością modeli językowych, szacują poziom halucynacji w wiodących modelach AI na przedział od 3% do nawet 5% w zadaniach streszczających. W przypadku tak masowej usługi oznacza to miliony użytkowników otrzymujących codziennie fałszywe lub wprowadzające w błąd informacje.
Gdy maszyna gubi kontakt z rzeczywistością
Zanim przeanalizujemy nowe etaty w Google, warto przypomnieć sobie powód tego zamieszania. Funkcja "AI Overviews" (wcześniej testowana jako Search Generative Experience) miała ułatwić nam życie, serwując gotowe odpowiedzi na tacy. Zamiast listy linków, dostajesz konkret. Problem pojawia się wtedy, gdy ten konkret jest wzięty z sufitu. Media obiegły zrzuty ekranu, na których sztuczna inteligencja Google z pełną powagą cytowała żartobliwe wpisy z serwisu Reddit jako fakty naukowe. Przykład z jedzeniem jednego kamienia dziennie dla zdrowotności stał się symbolem problemów, z jakimi borykają się duże modele językowe.
Firma znalazła się w wizerunkowym klinczu. Użytkownicy oczekują niezawodności, do której Google przyzwyczaiło ich przez ostatnie dekady. Otrzymywanie rad potencjalnie zagrażających zdrowiu podważyło to zaufanie w mgnieniu oka. Reakcją na ten kryzys nie jest wycofanie funkcji, lecz próba jej naprawienia "na żywym organizmie".
Nowe stanowisko - inżynier od walki z bzdurami
Odpowiedzią Google na kryzys jest oferta pracy - Senior Software Engineer, Search AI Answers Quality. Już sama nazwa stanowiska zdradza priorytety firmy. Nie chodzi tu o zwykłą korektę błędów, lecz o inżynierię jakości na poziomie architektury systemu. Osoba zatrudniona w kalifornijskim biurze w Palo Alto zajmie się projektowaniem rozwiązań, które mają na celu "zmniejszenie halucynacji". Termin ten w informatyce oznacza po prostu momenty, w których AI zmyśla fakty, bo tak wynika jej ze statystyki słów.
Praca z pewnością nie będzie należeć do łatwych. Google wprost komunikuje w ogłoszeniu, że chodzi o wdrożenie najnowszych technik uczenia maszynowego, aby poprawić dokładność informacji. Kandydat musi posiadać solidne doświadczenie w pracy z dużymi modelami językowymi (LLM) oraz rozumieć mechanizmy przetwarzania języka naturalnego (NLP). Firma szuka kogoś, kto wejdzie w trzewia algorytmu i zamontuje tam bezpieczniki, zanim ten znów zaproponuje komuś "niebezpieczną zabawę".
Problem leży w naturze algorytmu
Zadaniem nowego zespołu inżynierów będzie zmierzenie się z fundamentalną cechą dzisiejszej sztucznej inteligencji. Modele generatywne nie "wiedzą" w ludzkim rozumieniu tego słowa. One jedynie przewidują, jakie słowo powinno wystąpić po poprzednim, bazując na miliardach przeczytanych tekstów. Jeśli w danych treningowych (czyli w całym internecie) często pojawiał się żart o kleju na pizzy, model może statystycznie uznać, że jest to poprawna odpowiedź w kontekście kulinarnym. Maszyna nie czuje smaku, nie ma zdrowego rozsądku ani instynktu samozachowawczego.
Eksperci od jakości mają stworzyć system nadrzędny, który oceni wiarygodność wygenerowanej odpowiedzi. Zgodnie z treścią ogłoszenia o pracę, kluczowa będzie tu praca nad rankingami i łączenie odpowiedzi z wynikami wyszukiwania. Założeniem jest, aby AI czerpała wiedzę tylko z tych stron, które Google już wcześniej oceniło jako wartościowe, i ignorowała wpisy z satyrycznych portali czy przypadkowych forów dyskusyjnych.
Inżynieria atrybucji - trudne słowo, proste znaczenie
Jednym z najważniejszych obowiązków na nowym stanowisku będzie praca nad atrybucją. Google chce, aby AI nie tylko odpowiadała na pytanie, ale też potrafiła udowodnić, skąd wzięła tę wiedzę. Do tej pory modele językowe często działały jak uczeń, który ściąga na klasówce, ale nie pamięta od kogo. Teraz ma się to zmienić. Użytkownik ma otrzymać jasną informację... "ta porada pochodzi z tego i tego artykułu medycznego".
Wprowadzenie rygorystycznej atrybucji ma dwa cele. Po pierwsze, zwiększa bezpieczeństwo – jeśli widzisz źródło, możesz je sprawdzić. Po drugie, pomaga Google bronić się przed zarzutami wydawców, że AI kradnie ich treści bez podawania autora. Nowo zatrudnieni inżynierowie muszą sprawić, by ten proces dział się automatycznie i bezbłędnie przy każdym zapytaniu. Nie jest to łatwe zważywszy na dynamikę zmieniającego się internetu.
Technologia to nie tylko magia kodu
Przyglądając się wymaganiom stawianym kandydatom, zauważysz, że Google szuka osób o bardzo szerokich kompetencjach. Biegłość w C++, Javie czy Pythonie to standard, ale oczekuje się tu czegoś więcej – analitycznego myślenia nakierowanego na jakość produktu końcowego. Nowy inżynier będzie musiał współpracować z wieloma zespołami, bo jakość "Search AI Overviews" wpływa na cały ekosystem wyszukiwarki. Jeśli AI popełni błąd, cierpi cała marka.
Interesujący jest wymóg dotyczący rozumienia wyzwań związanych z jakością w systemach AI. Firma otwarcie przyznaje, że problem istnieje i jest złożony. Nie wystarczy zmienić jednej linijki kodu. Trzeba przebudować sposób, w jaki maszyna weryfikuje własne "myśli". Możemy więc mówić o tworzeniu swego rodzaju cyfrowego sumienia lub wewnętrznego cenzora dla sztucznej inteligencji.
Wpływ na Twoje codzienne wyszukiwanie
Decyzja o wielkim naborze specjalistów od jakości to sygnał, że Google stawia wszystko na jedną kartę. Firma nie zamierza rezygnować z AI w wynikach wyszukiwania. Wprost przeciwnie, chce dopieścić to do perfekcji. Oznacza to, że w najbliższej przyszłości będziesz już stale widywać podsumowania generowane przez maszyny, ale (miejmy nadzieję) będą one znacznie ostrożniejsze w swoich osądach.
Dla przeciętnego internauty jest to dobra wiadomość. Zamiast przedzierać się przez dziesiątki stron z reklamami, masz otrzymać rzetelną, zweryfikowaną pigułkę wiedzy. Zatrudnienie inżynierów, których jedynym zadaniem jest pilnowanie prawdy, daje nadzieję, że era dezinformacji generowanej automatycznie zostanie ukrócona, zanim na dobre się rozkręciła.
Paradoks nowoczesności
Ogłoszenie o pracę w dziale jakości AI Answers to jasny komunikat, że Google widzi problem i próbuje go rozwiązać metodami inżynieryjnymi. Firma zdaje sobie sprawę, że kolejna wpadka wizerunkowa może kosztować ich utratę pozycji lidera. W erze, gdzie alternatywne wyszukiwarki oparte na AI depczą im po piętach, jakość informacji staje się cenniejsza niż szybkość ich dostarczania.
Walka o "prawdę" w wynikach wyszukiwania będzie kosztowna i długa. Modele językowe z natury są skłonne do halucynacji. Stworzenie systemu kontroli, który wyłapie absurdalną poradę o jedzeniu kamieni, a jednocześnie nie zablokuje kreatywnej odpowiedzi na pytanie o pomysł na obiad, wymaga koronkowej precyzji programistycznej. Inżynierowie zatrudnieni na nowym stanowisku będą mieli pełne ręce roboty.
Maszyny potrafią pisać wiersze i malować obrazy, ale najwyraźniej zdrowy rozsądek pozostaje towarem, którego w kodzie źródłowym wciąż brakuje i trzeba go tam wstawić ręcznie, za ogromne pieniądze.
Źródła: Google, Forbes, Własne
