Глава Anthropic пообещал «открыть чёрный ящик» ИИ к 2027 году

Гендиректор Anthropic Дарио Амодей опубликовал эссе. В котором подчеркнул, насколько мало исследователи понимают о внутренних механизмах работы ведущих моделей ИИ. И поставил амбициозную цель — к 2027 году Anthropic должна научиться надёжно выявлять большинство проблем в работе ИИ-моделей.

Амодей откровенно признаёт масштаб стоящей перед компанией задачи. В эссе "Срочность интерпретируемости" CEO отмечает, что Anthropic уже добилась первых прорывов в отслеживании того, как модели приходят к своим ответам, но подчёркивает, что для расшифровки этих систем по мере их усложнения требуется гораздо больше работ.

https://mltimes.ai/glava-anthropic-poobeshhal-otkryt-chyornyj-yashhik-ii-k-2027-godu/