Один из так называемых «крестных отцов» искусственного интеллекта (ИИ) сказал, что он, в первую очередь поставил бы безопасность выше полезности, если бы знал, какими темпами он будет развиваться.

Профессор Йошуа Бенжио сказал Би-би-си, что чувствует себя «потерянным» из-за работы всей своей жизни.

Комментарии ученого-компьютерщика появились после того, как эксперты публично озвучили свои опасения по поводу (ИИ) и заявили, что это может привести к вымиранию человечества.

Профессор Бенжио, присоединившийся к призывам о регулировании ИИ, сказал, что, по его мнению, военным не следует предоставлять полномочия над ИИ.

Он второй из так называемых трех «крестных отцов» ИИ, известных своей новаторской работой в этой области, которые выразили озабоченность по поводу направлений и скорости его развития.

В интервью Би-би-си профессор Бенжио сказал, что работа всей его жизни, которая дала ему направление и чувство идентичности, больше не понятна ему.

Канадец подписал два недавних заявления, призывая к осторожности в отношении будущих рисков, связанных с ИИ.

Некоторые ученые и отраслевые эксперты предупреждают, что темпы развития могут привести к тому, что злонамеренные ИИ основанные на враждебности, будут развернуты злоумышленниками для активного причинения вреда или смогут причинить вред сами по себе.

Владелец Twitter и Tesla Илон Маск также выразил обеспокоенность.

«Я не думаю, что ИИ попытается уничтожить человечество, но он может поставить нас под строгий контроль», — сказал он недавно на мероприятии, организованном Wall Street Journal.

Его коллега по «крестному отцу» доктор Джеффри Хинтон также подписался под теми же предупреждениями, что и профессор Бенжио, и недавно ушел из Google, заявив, что сожалеет о своей работе.

Профессор Бенжио заявил Би-би-си, что все компании, разрабатывающие мощные продукты ИИ, должны быть зарегистрированы.

«Правительства должны отслеживать, что они делают, они должны иметь возможность их проверять, и это минимум того, что мы можем сделать для любого сектора, такого как производство самолетов, автомобилей или фармацевтики», — пояснил он.

Однако не все в этой области верят, что искусственный интеллект погубит человечество.

Третий «крестный отец», профессор Янн ЛеКун, который вместе с профессором Бенджио и доктором Хинтоном получил престижную премию Тьюринга за свою новаторскую работу, сказал, что апокалиптические предупреждения преувеличены.

Доктор Саша Лучони, научный сотрудник компании Huggingface, специализирующейся на искусственном интеллекте, сказала, что общество должно сосредоточиться на таких проблемах, как предвзятость к ИИ, прогнозирующая полиция и распространение дезинформации чат-ботами, которые, по ее словам, наносят «очень конкретный вред».

Уже есть много примеров того, как ИИ приносит пользу обществу, на прошлой неделе инструмент ИИ открыл новый антибиотик, и парализованный человек смог снова ходить, просто подумав об этом, благодаря микрочипу, разработанному с использованием ИИ.

Но это сочетается с опасениями по поводу далеко идущего влияния ИИ на экономику стран.

Фирмы уже заменяют человеческий персонал инструментами ИИ, и это является фактором текущей забастовки сценаристов в Голливуде.

«Улучшаться никогда не поздно», — говорит профессор Бенжио о текущем состоянии ИИ,«это точно так же, как с изменением климата.

«Мы выбросили в атмосферу много углерода, но было бы лучше, если бы мы этого не делали, но давайте посмотрим, что мы можем сделать сейчас».