Anthropic a Mythos: Briefing Trumpovy administrativy o AI rizicích

Zdroj: AIfolio.cz

Zakladatel Anthropic, Dario Amodei, potvrdil, že jeho tým informoval Trumpovu administrativu o projektu Mythos, hypotetickém modelu AI a jeho rizicích.

Zakladatel společnosti Anthropic, Dario Amodei, nedávno potvrdil, že jeho tým informoval administrativu bývalého prezidenta Donalda Trumpa o projektu Mythos. Cílem tohoto brífinku bylo seznámit klíčové představitele s potenciálními riziky spojenými s vývojem pokročilé umělé inteligence, zejména s modely na úrovni AGI Artificial General Intelligence. Projekt Mythos představuje hypotetický model AI, který by mohl dosáhnout lidské úrovně inteligence nebo ji dokonce překonat. Jeho existence je spíše myšlenkovým experimentem, který slouží k mapování scénářů, kde by taková technologie mohla představovat existenční hrozbu. Představte si jej jako digitální simulátor katastrof, který zkoumá nejhorší možné dopady. Amodei zdůraznil, že briefing se odehrál v roce 2024, tedy v době, kdy se debata o r