Разработчик Claude призвал замедлить развитие ИИ. Эксперты отмечают, что так компания может укрепить свои позиции

Компания Anthropic, разработчик бота Claude и один из лидеров рынка, призвала замедлить развитие искусственного интеллекта из-за высоких рисков, которые несет технология. Об этом говорится на сайте компании.
По ее мнению, ИИ развивается слишком быстро и скоро сможет совершенствоваться без вмешательства человека, что может вызвать утрату контроля над технологией. Пауза в разработках призвана установить правила регулирования и позволить обществу адаптироваться к изменениям. Однако приостановка имеет смысл только при участии крупных игроков и наличии механизмов проверки. Anthropic планирует обсудить эту идею с властями и участниками рынка.
🔵 Anthropic лукавит? The Daily Telegraph пишет, что Anthropic недавно стала одной из самых дорогих компаний в сфере ИИ. На этом фоне призыв «заморозить» гонку выглядит неоднозначно: критики считают, что это может помочь компании закрепить достигнутое лидерство.
Сейчас Anthropic готовится к IPO с оценкой около $1 трлн. На этом фоне компания систематически подает себя как наиболее ответственного разработчика ИИ, отмечает The Bell. Кроме того, сама компания продолжает разрабатывать новые модели своих инструментов, включая Claude и Mythos.
🔵 Контекст. В 2023 году более тысячи экспертов подписали открытое письмо с призывом приостановить разработку более передового ИИ. Среди подписантов значились Илон Маск, Стив Возняк и Юваль Ной Харари.
Критики идеи утверждали, что остановка замедлит инновации, а участие в проекте американских компаний предоставит преимущество другим странам, в первую очередь, Китаю. ...