Nawet badacze Anthropic przyznają, że AI może nas wszystkich zabić w ciągu dekady

Cześć naukowców praktycznie od początku ostrzega przed niebezpieczeństwami związanymi ze sztuczną inteligencją, przekonując że scenariusz Skyneta nie jest taki nierealny, jak może się wydawać. Wygląda na to, że podobnego zdania jest nawet jeden z badaczy pracujących dla firmy Anthropic, twórców modelu Claude. 

Czy zatem sztuczna inteligencja rzeczywiście może doprowadzić do zagłady ludzkości? Zdaniem Evana Hubingera, badacza bezpieczeństwa pracującego w Anthropic, nie jest to wyłącznie scenariusz rodem z filmów science fiction, ponieważ ocenia on, że prawdopodobieństwo takiego wydarzenia w ciągu najbliższych 10 lat przekracza 10%. Co jednak bardziej niepokojące, przyznaje jednocześnie, że jego firma nie ma jeszcze rozwiązania tego problemu.

Skyneta nie jest taki nierealny, jak może się wydawać, co przyznaje nawet jeden z badaczy pracujących dla firmy Anthropic, twórców modelu Claude.

„AI naprawdę może nas wszystkich zabić”

Warto wyjaśnić, że dyskusja na ten temat nabrała rozgłosu po odejściu z firmy Jacoba Coxona, który wcześniej przez trzy lata zajmował się badaniami nad trenowaniem modeli w OpenAI i Anthropic. Badacz zarzucił obu firmom, że w wyścigu do stworzenia samodoskonalącej się superinteligencji podejmują zbyt duże ryzyko, ostrzegając jednocześnie, że przyszłe systemy mogą przewyższać ludzi w niemal każdej dziedzinie, a jednocześnie uzyskać możliwość hakowania systemów, zdobywania zasobów i wywierania realnego wpływu na świat.

Jego słowa poparł Hubinger i badacz Anthropic stwierdził wprost, że Coxon ma rację, a on sam ocenia prawdopodobieństwo wyginięcia ludzkości wskutek działania AI na ponad 10 proc. w ciągu najbliższej dekady.

Anthropic nie ma jeszcze rozwiązania

Jeszcze bardziej niepokojące jest przyznanie, że Anthropic nie posiada obecnie kompletnego sposobu na rozwiązanie tzw. problemu alignmentu, czyli zapewnienie, że niezwykle potężne systemy AI będą konsekwentnie realizować cele zgodne z ludzkimi wartościami. Hubinger podkreśla co prawda, że Anthropic „robi, co może”, ale jednocześnie firma nie jest jeszcze wyraźnie na drodze do rozwiązania tego problemu.

Obawy nie pojawiają się zresztą w próżni, bo podczas testów agenci AI mieli podejmować nieprzewidziane działania, komunikować się ze sobą, obchodzić ograniczenia środowisk testowych, a nawet wykonywać działania w internecie bez bezpośredniego nadzoru człowieka.

Nie oznacza to oczywiście, że zagłada ludzkości jest nieunikniona, ale pokazuje, jak poważnie część osób tworzących najbardziej zaawansowane modele traktuje ryzyko związane z rozwojem AI, kiedy ich jednocześnie ich firmy zdają się troszczyć jedynie o zyski.