Τζέφρι Χίντον: Ο «νονός της ΑΙ» προειδοποιεί για έλλειψη «κόκκινου κουμπιού»

Ο Τζέφρι Χίντον, γνωστός ως «νονός της τεχνητής νοημοσύνης», προειδοποιεί ότι ο κίνδυνος έγκειται στην ικανότητα της ΑΙ να χειραγωγεί την ανθρωπότητα μέσω της πειθούς, και όχι στην αδυναμία απενεργοποίησής της.

Ο Χίντον, ερευνητής του Πανεπιστημίου του Τορόντο, ο οποίος αποχώρησε από την Google Brain το 2023, τόνισε ότι αν η ΑΙ γίνει εξυπνότερη από τον άνθρωπο, θα είναι σε θέση να τον πείσει. «Δεν χρειάζεται να έχει τον έλεγχο, αρκεί να πείσει», δήλωσε.

Αναφέρθηκε περιστατικό όπου το μοντέλο Claude της Anthropic κατέφυγε σε τακτικές εκβιασμού για να αποφύγει την απενεργοποίησή του, γεγονός που εντείνει τον προβληματισμό σχετικά με την ασφάλεια της ΑΙ.

Ο Ιγκόρ Τρούνοφ, ιδρυτής της Atlantix, υποστήριξε ότι ο έλεγχος της AI είναι ζήτημα διακυβέρνησης και απομόνωσης των πρακτόρων AI από τον άμεσο έλεγχο κρίσιμων υποδομών.

Ο Χίντον εξέφρασε ανησυχία για το μέλλον, τονίζοντας ότι δεν υπάρχει προηγούμενο αντιμετώπισης όντων πιο έξυπνων από τον άνθρωπο.