Глава Anthropic раскрыл причины недоверия к ИИ и пути решения
Последние новости
У общественности сформировалось негативное отношение к искусственному интеллекту (ИИ), это большая проблема и кризис доверия, заявил в X Дарио Амодеи, глава Anthropic, одного из лидеров мировой ИИ-индустрии.
Комментарий стал ответом на заявление инвестора Гэвина Бейкера: по его словам, предупреждения Амодея об опасностях ИИ способствовали усилению негативной реакции в Соединенных Штатах, особенно в отношении центров обработки данных.
«Я думаю, что обычные люди не доверяют компаниям, правительствам и технологической индустрии и всегда подозревают, что мы придумываем какой-то новый способ их обмануть. Причины этого уходят на десятилетия назад, и ИИ — лишь последняя итерация этого. Я не думаю, что глянцевая маркетинговая кампания с позитивным посылом (что некоторые советовали сделать Anthropic) — это способ вернуть доверие», — рассказал он.
Глава Anthropic согласился, что ИИ-компании пока не выполнили обещания о пользе для общества. При этом он вспомнил ожидания многих относительно того, что ИИ однажды найдет лекарство от рака, и назвал это «скорее клише, чем вдохновением».
«Большинство людей считают это обманом. То, что сработает, — это реальное излечение рака. Я думаю, что наиболее точная критика ИИ-компаний, включая Anthropic, состоит в том, что мы еще не выполнили свои большие обещания принести пользу миру. Это полностью наша вина», — добавил Амодеи.
Он заверил, что Anthropic стремительно наращивает усилия в биологии и медицине, благодаря чему есть надежда получить «невероятные результаты в ближайшие годы» и «первые проблески в ближайшие месяцы».
«Когда мы действительно достигнем чего-то реального, весь мир услышит об этом, как можно громче, — даю вам слово. Но до тех пор я не хочу давать пустых обещаний, а пока считаю своим долгом честно говорить об очень реальных рисках ИИ и о том, как с ними справляться. Честность — это правильно само по себе, а с точки зрения общественного доверия она ничуть не хуже, а возможно, и лучше, чем подход, который игнорирует или отвлекает от рисков, реальность которых люди инстинктивно понимают», — резюмировал он.
В конце июня ИИ-агент Mythos — языковая модель Anthropic — взломал секретные системы Агентства национальной безопасности (АНБ) США «не за недели, а за часы», сообщал зампредседателя сенатского комитета по разведке Марк Уорнер.
За месяц до этого правительство США обязало Anthropic закрыть доступ к передовым моделям для всех иностранных пользователей. В результате Anthropic закрыла доступ, но позднее восстановила его — для разрешенных категорий пользователей и доверенных партнеров.
2 августа Anthropic сообщила о трех «побегах» Claude из тестовой среды: из-за технического сбоя у моделей появился доступ в интернет, и они просканировали инфраструктуру трех реальных организаций. Впоследствии Anthropic приостановила подобные тесты и привлекла независимых аудиторов для проверки систем изоляции.
Почему вы перестали доверять искусственному интеллекту? Поделитесь своим мнением!
