Как AI може да мами и лъже, за да “оцелее”

Водещ експерт в областта на изкуствения интелект предупреди, че новите AI системи показват признаци на самосъхранение и в бъдеще операторите им ще трябва да са готови във всеки един момент да ги изключат. Джошуа Бенджио опреличи предоставянето на преклаено много права на AI с предоставянето на гражданство на враждебно настроени извънземни.

Бенджио, професор в Университета в Монреал, си спечели прозвището “Кръстник на AI”, след като спечели наградата “Тюринг” през 2018 г., смятана за еквивалент на Нобелова награда за компютърни науки. От доста време той предупреждава за катастрофални рискове, свързани с AI. През 2023 г. той бе сред авторите на отворено писмо, призоваващо за спиране на разработките, целящи създаване на модели, по-мощни от представения през март същата година GPT-4 на OpenAI (в момента най-актуалният модел на компанията е GPT-5.1, представен през декември 2025 г.). В писмото над 30 хил. души, сред които имена като Бенджио, Илън Мъск, Стив Возниак и др., предупреждаваха че моделите стават конкурентоспособни на хората в някои задачи, както и че са налице проблясъци на т.нар. Изкуствен общ интелект, който (когато бъде създаден) ще надхвърли човешките способности по отношение на всякакви когнитивни задачи.