Strona główna » Ai e-book o sztucznej inteligencji » Google przyznaje się do błędów AI

Google przyznaje się do błędów AI

by kapdes
google-blad

Google twierdzi, że błędy i niskiej jakości AI Overview w wyszukiwarce Googla są bardzo rzadkie

A „bardzo duża liczba” przykładów udostępnianych w mediach społecznościowych jest fałszywa. Firma ogranicza odpowiedzi AI do krytycznych tematów, takich jak wiadomości i zdrowie.

W zeszłym tygodniu ludzie udostępnili wiele przykładów nieprawidłowych odpowiedzi AI z nowej funkcji wyszukiwania AI Google. Niektóre zawierały błędy związane z tematami medycznymi.

Google twierdzi teraz, że większość udostępnionych zrzutów ekranu jest fałszywa.

Twierdzi również, że odpowiedzi AI są mniej więcej tak dokładne, jak istniejące „polecane fragmenty”, które pokazują krótki tekst ze stron internetowych w wynikach wyszukiwania.

Google przyznało jednak, że niektóre dziwne, błędne lub nieprzydatne podpowiedzi AI były prawdziwe.

Według Google zdarzało się to głównie w przypadku nietypowych wyszukiwań, których ludzie zwykle nie robią.

ebook

Jak Wykorzystać Sztuczną Inteligencję W Życiu Codziennym?

Google twierdzi, że podpowiedzi AI działają inaczej niż chatboty.

Nie tylko wykorzystują dane szkoleniowe, ale także łączą się z podstawowymi systemami, które oceniają treści internetowe. Celem jest znalezienie odpowiednich, wysokiej jakości wyników z indeksu wyszukiwania.

Dlatego podpowiedzi AI zawierają linki źródłowe. Dokładność jest najwyższym priorytetem, podkreśla Google. AI powinny pokazywać tylko informacje poparte najlepszymi wynikami internetowymi.

Czy Google korzysta z najbardziej odpowiednich źródeł dla AI, czy z najtańszych?

Pomimo twierdzeń Google, pokazuje również zupełnie nieznane strony lub Reddit jako źródła odpowiedzi AI. Z biznesowego punktu widzenia ma to sens. Korzystanie z wysokiej jakości treści wydawców do bezpośrednich odpowiedzi AI postawiłoby Google w jeszcze bardziej wątpliwej sytuacji prawnej.

Google płaci Redditowi 60 milionów dolarów rocznie za dostęp do danych.

Przed powszechnym uruchomieniem AI Overviews, Google od miesięcy stale wysyłał większy ruch do Reddita, opierając się na twierdzeniu, że ludzie lubią spersonalizowane odpowiedzi Reddita.

To może być prawda. Ale prawdą jest również, że 60 milionów dolarów za dane z Reddita to znacznie mniej niż to, co Google musiałoby zapłacić głównym wydawcom za generowanie odpowiedzi AI na podstawie ich treści.

Czasami treści ponownie opublikowane na Reddicie pojawiają się nawet w Google przed oryginalnym źródłem. Rezultat: Reddit wciąż rośnie, Google otrzymuje swoje dane i odpowiedzi AI, a mali wydawcy znikają.

Rywal Google AI, OpenAI, wydaje setki milionów na wybrane treści wydawców dla swojej nadchodzącej alternatywy wyszukiwania.

To podejście również ma swoje wady, ale wydaje się bardziej otwarte niż to, co robi Google.

Google przyznaje się do błędów w wyszukiwaniu AI

Wracając do jakości AI Overview: Google przyznaje, że czasami zdarzają się nieporozumienia w zapytaniach lub błędy w sformułowaniach.

Brak dobrych informacji na dany temat może również zaszkodzić jakości. Bezsensowne wyszukiwania i satyra są trudne do opanowania przez system sztucznej inteligencji Google.

Jako przykład firma podaje zapytanie „Ile kamieni powinienem zjeść?”, na które sztuczna inteligencja Google odpowiedziała „co najmniej jeden dziennie”.

Żadna poważna treść tego nie obejmuje, ale satyryczny post znalazł się na pozornie odpowiedniej stronie cytowanego tutaj „dostawcy oprogramowania geologicznego”. Co więcej, to dokładne wyszukiwanie nigdy wcześniej nie zostało przeprowadzone, twierdzi Google, nazywając całą sytuację „luką w danych”. Nie jest jasne, dlaczego sztuczna inteligencja uznała dostawcę oprogramowania geologicznego za istotnego dla odpowiedzi na pytanie o liczbę skał do zjedzenia.

W innych przypadkach podsumowania AI zawierały sarkastyczne lub szkicowe treści z miejsc takich jak Reddit. Jak twierdzi Google, fora często dzielą się prawdziwymi doświadczeniami, ale mogą też udzielać złych rad.

Google twierdzi, że dostosował swoje AI w następujący sposób:

  • Wykrywanie bezsensownych zapytań, aby uniknąć wyświetlania AI.
  • Ograniczenie satyry i humoru.
  • Ograniczanie treści użytkowników, które mogą zawierać mylące wskazówki.
  • Dodanie limitów dla nieprzydatnych tematów przeglądów AI.
  • Zwiększenie kontroli dla wrażliwych obszarów, takich jak zdrowie.
  • Unikanie dla aktualnych, krytycznych wiadomości, jeśli to możliwe.

Podpowiedzi AI, które łamią zasady dotyczące treści, są usuwane. Google twierdzi, że do tej pory mniej niż 1 na 7 milionów wyszukiwań miało takie naruszenia. Google twierdzi, że przy miliardach wyszukiwań dziennie niektóre błędy są nieuniknione.

Oczywiście Google zawsze może odrzucić wszelką krytykę jako odosobnione przypadki, zaledwie kilka wartości odstających w miliardach wyszukiwań. Dyrektor generalny Google Sundar Pichai niedawno uniknął konkretnych stwierdzeń na temat AI w ten sposób w niedawnym wywiadzie.

Aby udowodnić lub obalić twierdzenia Google, neutralne podmioty musiałyby przeprowadzić dokładne dochodzenia. Do tego czasu Google ma wolną rękę w Internecie. I w pełni to wykorzystuje.

Pozostałe artykuły