Strona główna » Ai e-book o sztucznej inteligencji » Elon Musk uruchamia startup AI i ostrzega…

Elon Musk uruchamia startup AI i ostrzega…

by kapdes
xai-musk

Szef Tesli twierdzi, że "proludzkie" xAI oferuje realistyczną alternatywę dla wstrzymania rozwoju superinteligencji

„Terminator przyszłości”?

Elon Musk uruchomił startup zajmujący się sztuczną inteligencją, który będzie „proludzki”, ponieważ powiedział, że świat musi martwić się perspektywą „Terminatora przyszłości”, aby uniknąć najbardziej apokaliptycznych scenariuszy AI.

Musk powiedział, że xAI będzie dążyć do zbudowania systemu, który byłby bezpieczny, ponieważ byłby „maksymalnie ciekawy” ludzkości, a nie miałby zaprogramowanych wytycznych moralnych.

„Z punktu widzenia bezpieczeństwa sztucznej inteligencji… maksymalnie ciekawa sztuczna inteligencja, która próbuje zrozumieć wszechświat, będzie moim zdaniem proludzka” – powiedział w dyskusji Spaces na Twitterze, ogłaszając xAI.

Najbogatsza osoba na świecie była jednym z sygnatariuszy tegorocznego listu, w którym wezwano do wstrzymania budowy dużych modeli sztucznej inteligencji, takich jak ChatGPT, chatbot zbudowany przez amerykańską firmę OpenAI. Istnieją coraz większe obawy, że rozwój technologii sztucznej inteligencji wymknie się spod ludzkiej kontroli.

Musk powiedział, że pauza nie wydaje się już realistyczna i ma nadzieję, że xAI zapewni alternatywną ścieżkę.

„Gdybym mógł nacisnąć pauzę na AI lub naprawdę zaawansowaną cyfrową superinteligencję AI, zrobiłbym to. Nie wydaje się to realistyczne, więc xAI zasadniczo zbuduje sztuczną inteligencję … w dobry sposób, miejmy nadzieję” – powiedział.

Musk, który jest właścicielem Twittera, powiedział, że istnieje łagodny scenariusz, w którym pojawienie się sztucznej inteligencji ogólnej – systemu zdolnego do inteligencji na poziomie ludzkim – doprowadziło do „wieku obfitości”, w którym nie brakowało towarów i usług. Dodał jednak, że istnieje również możliwość mroczniejszej przyszłości.

Odnosząc się do filmów Terminator i ich wizji przyszłości zniszczonej przez roboty napędzane sztuczną inteligencją, Musk powiedział:

„W rzeczywistości ważne jest, abyśmy martwili się o przyszłość Terminatora, aby uniknąć przyszłości Terminatora”.

Powiedział, że superinteligencja – sztuczna inteligencja bardziej inteligentna i utalentowana niż ludzie – może pojawić się za pięć lub sześć lat, czyli szybciej niż szacuje wielu ekspertów.

Musk, który jest również dyrektorem generalnym firmy Tesla produkującej samochody elektryczne, powiedział, że minie „trochę czasu”, zanim xAI osiągnie poziom OpenAI lub Google, które wydało własnego chatbota o nazwie Bard i jest właścicielem wiodącej na świecie brytyjskiej firmy DeepMind zajmującej się sztuczną inteligencją.

W skład zespołu xAI wchodzą Igor Babuschkin, były inżynier w DeepMind; Tony Wu, który pracował w Google; Christian Szegedy, który był również naukowcem w Google; oraz Greg Yang, który wcześniej pracował w Microsoft.

W marcu Musk zarejestrował firmę o nazwie X.AI Corp, zarejestrowaną w Nevadzie, zgodnie z dokumentacją stanową. Firma wymienia Muska jako jedynego dyrektora i Jareda Birchalla, dyrektora zarządzającego rodzinnego biura multimiliardera, jako sekretarza.

Dan Hendrycks, który będzie doradzał zespołowi xAI, jest dyrektorem Center for AI Safety (Cais), a jego praca obraca się wokół zagrożeń związanych ze sztuczną inteligencją. Cais wydało w maju oświadczenie, zawierające wiele podpisów specjalistów i ekspertów w dziedzinie sztucznej inteligencji, stwierdzając, że radzenie sobie z ryzykiem wyginięcia sztucznej inteligencji powinno być globalnym priorytetem na równi z łagodzeniem ryzyka pandemii i wojny nuklearnej.

Musk powiedział w wydarzeniu Spaces, że ma wątpliwości co do implikacji bezpieczeństwa programowania moralnej postawy w generatywnych narzędziach sztucznej inteligencji. W tym tygodniu Anthropic, wiodąca amerykańska firma zajmująca się sztuczną inteligencją, uruchomiła chatbota, który działa w oparciu o listę zasad bezpieczeństwa zaczerpniętych ze źródeł takich jak Powszechna Deklaracja Praw Człowieka.

„Jeśli programujesz określoną rzeczywistość [w AI], musisz powiedzieć, jaką moralność programujesz. Czyja to decyzja?”

– zapytał, dodając, że gdy SI zostanie zaprogramowana z określonym moralnym punktem widzenia, łatwiej będzie skłonić ją do jego zmiany. Jest to znane jako „efekt Waluigi”, nazwany na cześć złośliwego arcyrywala Luigiego z serii gier wideo Super Mario.

Nowa firma Muska jest oddzielona od X Corp, ale będzie ściśle współpracować z Twitterem, Teslą i innymi firmami, zgodnie z jej stroną internetową, i rekrutuje doświadczonych inżynierów i badaczy w rejonie Zatoki San Francisco.

Pozostałe artykuły