Джеффри Хинтон: «Материнские инстинкты» в ИИ для выживания

Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта, предупреждает об опасностях, исходящих от сверхразумных систем, и предлагает уникальное решение для выживания человечества.

В своем интервью Хинтон сравнил развитие ИИ с выращиванием тигра, подчеркнув, что ИИ превзойдет человеческий интеллект в течение следующих двух десятилетий. Он считает, что усилия компаний по ограничению ИИ не будут эффективными.

Решение, предложенное Хинтоном на конференции Ai4 в Лас-Вегасе, заключается в том, чтобы внедрить «материнские инстинкты» в системы ИИ, чтобы они заботились о человечестве. Как он объяснил, отношения между матерью и ребенком — единственный пример, когда более умное существо подчиняется менее умному.

По словам Хинтона, сверхразумные машины быстро приобретут две основные цели: поддерживать свое существование и получать больше контроля. Если у них не будет инстинктивной заботы о людях, выживание человечества окажется под угрозой.