Zakladatel společnosti Anthropic, Dario Amodei, nedávno potvrdil, že jeho tým informoval administrativu bývalého prezidenta Donalda Trumpa o projektu Mythos. Cílem tohoto brífinku bylo seznámit klíčové představitele s potenciálními riziky spojenými s vývojem pokročilé umělé inteligence, zejména s modely na úrovni AGI (Artificial General Intelligence).
Projekt Mythos představuje hypotetický model AI, který by mohl dosáhnout lidské úrovně inteligence nebo ji dokonce překonat. Jeho existence je spíše myšlenkovým experimentem, který slouží k mapování scénářů, kde by taková technologie mohla představovat existenční hrozbu. Představte si jej jako digitální simulátor katastrof, který zkoumá nejhorší možné dopady.
Amodei zdůraznil, že briefing se odehrál v roce 2024, tedy v době, kdy se debata o regulaci AI a jejích bezpečnostních aspektech teprve rozbíhala. Bylo klíčové zajistit, aby budoucí lídři byli obeznámeni s komplexitou a potenciálními výzvami, které s sebou AI přináší. Jak jinak zajistit informované rozhodování v tak kritické oblasti?
Diskuze se soustředila na takzvané „katastrofické riziko“, tedy situace, kdy by se nekontrolovaná AI mohla stát hrozbou pro lidstvo. To zahrnuje scénáře od autonomních zbraňových systémů až po ekonomickou destabilizaci způsobenou masivním nahrazováním lidské práce. Je to jako varovat před tsunami, když je moře ještě klidné, ale radary už ukazují blížící se vlnu.
Anthropic dlouhodobě prosazuje přístup „bezpečné a etické AI“, což je zakotveno i v jejich ústavě, která klade důraz na výzkum bezpečnosti. Společnost se snaží být v popředí nejen ve vývoji, ale i v prevenci nežádoucích dopadů. To je přístup, který by se mohl stát standardem pro celý obor.
Zpráva o brífinku s Trumpovou administrativou vyvolala otázky ohledně politické neutrality a transparentnosti. Jak by měly technologické společnosti komunikovat s různými politickými frakcemi? A jak zajistit, aby takové informace nebyly zneužity k politickým účelům, ale sloužily skutečnému pokroku a bezpečnosti?
Celá situace podtrhuje rostoucí potřebu dialogu mezi technologickými lídry a vládními orgány. Bez ohledu na politické směřování je klíčové, aby obě strany rozuměly potenciálu i nástrahám, které AI přináší. Jak se bude tato křehká rovnováha vyvíjet v nadcházejících letech, kdy se AI stane ještě mocnějším nástrojem?
