Несколько дней назад писал о колоссальных возможностях, которые открывает перед человечеством искусственный интеллект. Сегодня Дмитрий Анатольевич Медведев поднял другую, не менее важную сторону вопроса – риски, которые появляются по мере того, как возможности ИИ начинают опережать наши механизмы контроля за ними.
Примечательно, что об этих рисках все громче говорят уже сами создатели передовых моделей: на выходных про это рассуждали и Дарио Амодеи из Anthropic, и поддержавший его Сэм Альтман из OpenAI. Во многом согласен с ними обоими, но все же позиция Дмитрия Анатольевича мне ближе.
Человечеству не нужна пауза в развитии. Нам нужна новая культура ответственности за технологии! Чем мощнее становятся системы искусственного интеллекта, тем жестче должны быть требования к их применению там, где цена ошибки измеряется человеческими жизнями, безопасностью энергетики, транспорта, промышленности и государства. При этом, безусловно, Россия обязана развивать собственные модели, собственную вычислительную инфраструктуру и собственные стандарты безопасности – технологический суверенитет в этой сфере уже становится вопросом национальной независимости.
Считаю, к выработке этических принципов применения ИИ необходимо привлекать не только разработчиков и государство, но и Русскую Православную Церковь. Перед нами возникают вопросы, которых еще недавно просто не существовало: где должна проходить граница между решением человека и машины, что нельзя передавать алгоритму ни при каких обстоятельствах, как сохранить свободу воли, достоинство личности и ответственность человека за собственный выбор. И здесь голос Церкви, мнение научного сообщества, педагогов и инженеров должны звучать в унисон!
И, разумеется, предельно важно научить вдумчивому отношению к технологиям поколение Русской весны. Наши дети должны не просто пользоваться нейросетями, а понимать их устройство, возможности и ограничения; осваивать робототехнику, программирование и современные производственные технологии – но одновременно помнить, что техника всегда должна служить человеку. Мы уже чувствуем дыхание будущего, оно наступает на наших глазах. И наша задача – встретить его создателями и хозяевами новых технологий, сохранив при этом человеческое достоинство, веру и ответственность!
