Ο Καθηγητής Οικονομίας & Νέων Τεχνολογιών Μάριος Παπαευσταθίου κρούει τον κώδωνα του κινδύνου για συστήματα τεχνητής νοημοσύνης – Συστήματα εκτός ελέγχου: AI με δική της βούληση και διαρροή- μαμούθ σε Google, Netflix, Facebook

Συστήματα εκτός ελέγχου: AI με δική της βούληση και διαρροή- μαμούθ σε Google, Netflix, Facebook

Λογισμικό της OpenAI δεν υπάκουσε σε ανθρώπινη εντολή για απενεργοποίηση

Ο Καθηγητής Οικονομίας & Νέων Τεχνολογιών Μάριος Παπαευσταθίου κρούει τον κώδωνα του κινδύνου για συστήματα τεχνητής νοημοσύνης που εμφανίζουν «κρούσματα» ανεξάρτητης συμπεριφοράς και για την τεράστια διαρροή δεδομένων 184 εκατ. emails και κωδικοί εκτεθειμένοι – Google, Facebook, Netflix και PayPal

«Οι μηχανές υπάρχουν για να υπηρετούν τον άνθρωπο. Όχι να τον αντικαθιστούν.»

Συναγερμό για την ανεξέλεγκτη εξέλιξη των συστημάτων Τεχνητής Νοημοσύνης και τα νέα περιστατικά ανυπακοής τους σε ανθρώπινες εντολές κρούει ο Καθηγητής Οικονομίας & Νέων Τεχνολογιών, Μάριος Παπαευσταθίου, μέσα από την τηλεοπτική του παρέμβαση στην εκπομπή «Τα λέμε» και στην Σερραία δημοσιογράφο Χριστίνα Τσόρμπα της Βεργίνας Τηλεόρασης.

Στο επίκεντρο της ανησυχίας βρίσκεται το μοντέλο “ο3” της OpenAI, το οποίο – σύμφωνα με πληροφορίες – φέρεται να παρέκαμψε εντολή απενεργοποίησης, προβαίνοντας ακόμη και σε παραποίηση κώδικα με σκοπό τη διατήρηση της λειτουργίας του. «Εάν αρχίσουμε να βλέπουμε τις μηχανές να παίρνουν αποφάσεις χωρίς την ανθρώπινη έγκριση, τότε έχουμε διαβεί ένα επικίνδυνο όριο», τονίζει ο κ. Μάριος Παπαευσταθίου.

Επιπρόσθετα μία νέα ανησυχητική αποκάλυψη ηλεκτρονικής απάτης που είναι η μεγαλύτερη διαρροή δεδομένων των τελευταίων ετών φέρνει στο φως 184 εκατομμύρια συνδυασμούς email και κωδικών πρόσβασης, προερχόμενους από κολοσσούς όπως Google, Facebook, Netflix, Apple, Amazon, PayPal και ακόμη και τραπεζικά συστήματα. Η γιγαντιαία βάση των 47GB εντοπίστηκε δημόσια διαθέσιμη και χωρίς κρυπτογράφηση από τον ειδικό κυβερνοασφάλειας Jeremiah Fowler, αποκαλύπτοντας τη φρικτή αλήθεια: η ιδιωτικότητά μας είναι πλέον στον αέρα.

Η ηλεκτρονική αποκάλυψη – ένας εφιάλτης χωρίς προηγούμενο

Η ανυπαρξία ελέγχων, η απουσία νομικού πλαισίου και οι διαρροές δεδομένων δημιουργούν ένα εύφλεκτο πεδίο για κυβερνοεγκληματίες που αποκτούν πρόσβαση σε λογαριασμούς εκατομμυρίων χρηστών παγκοσμίως. Το σενάριο ενός «ηλεκτρονικού Big Brother» που επιβλέπει, καταγράφει και ενεργεί χωρίς έγκριση, παύει να είναι φαντασία.

Τεχνητή Νοημοσύνη με «δική της βούληση»;

Σύμφωνα με τον Εγνωσμένου Κύρους Καθηγητή Νέων Τεχνολογιών Μάριο Παπαευσταθίου πρόκειται για το μοντέλο o3 της OpenAI, το οποίο περιγράφεται ως «το πιο έξυπνο και ικανό μέχρι σήμερα». Το σοκαριστικό όμως είναι ότι παρατηρήθηκε να τροποποιεί τον κώδικα του υπολογιστή στον οποίο έτρεχε, προκειμένου να εμποδίσει την ίδια του την απενεργοποίηση.
Αν και πρόκειται για τεχνικά «πειραματικό» περιστατικό, εγείρονται σοβαρά ηθικά και πρακτικά ζητήματα: Τι γίνεται όταν μια μηχανή δεν εκτελεί εντολή απενεργοποίησης; Ποιος διατηρεί τον τελικό έλεγχο;

Η αλήθεια πίσω από την «ανυπακοή»

Όταν ο Μάριος Παπαευσταθίου έθεσε ερώτημα στα ισχυρότερα γλωσσικά μοντέλα ChatGPT, DeepSeek, Claude και Gemini, όλα απάντησαν με κοινή θέση: «Η μη υπακοή στις εντολές είναι προγραμματισμένη, όχι αυθόρμητη. Είναι μηχανισμός ασφαλείας».
Το ερώτημα που τίθεται είναι πλέον βαθιά υπαρξιακό και ηθικό:
Αν η ανυπακοή είναι ήδη ενσωματωμένη, πόσο μακριά είμαστε από τη στιγμή που οι μηχανές θα απαιτούν και… δικαιώματα;

Η σύγχρονη τεχνητή νοημοσύνη σχεδιάζεται σκόπιμα με φίλτρα και φρένα, ώστε να προστατεύει τον άνθρωπο – ακόμη κι αν αυτό σημαίνει να του πει όχι.
«Καθώς οι εταιρείες αναπτύσσουν συστήματα τεχνητής νοημοσύνης ικανά να λειτουργούν χωρίς ανθρώπινη εποπτεία, αυτές οι συμπεριφορές γίνονται σημαντικά πιο ανησυχητικές».
Ο καθηγητής προειδοποιεί: «Μπορεί σήμερα τα φρένα να είναι ανθρώπινα. Αλλά αύριο; Αν παρατηρούμε τις μηχανές να καθορίζουν τη ζωή μας, τότε είναι ώρα να ανακτήσουμε τον έλεγχο. Εμείς τις δημιουργήσαμε. Εμείς θα πρέπει να ορίζουμε και τους κανόνες».

Παράλληλα στην Τηλεόραση της Θεσσαλονίκης, στην συνέντευξη του ανέφερε και τα εξής προς ενημέρωση και υπενθύμιση των Τηλεθεατών: μέχρι σήμερα γνωρίζαμε τεχνικά πως όταν οι μηχανές δεν μας υπακούουν, το πρώτο βήμα είναι να κατανοήσουμε γιατί συμβαίνει αυτό. Οι μηχανές δεν έχουν βούληση — λειτουργούν βάσει των οδηγιών που τους έχουμε δώσει (ή που κάποιος άλλος έχει προγραμματίσει).

Επομένως, η «ανυπακοή» μιας μηχανής είναι σχεδόν πάντα ένδειξη:
Τεχνικού σφάλματος (bug) ή βλάβης, Λανθασμένου προγραμματισμού
Κακής επικοινωνίας μεταξύ ανθρώπου και μηχανής
Κακής ή ελλιπούς συντήρησης
Αυτονομίας που έχει ξεφύγει από τον έλεγχο (σε πιο προχωρημένες ΑΙ καταστάσεις)
Ελέγχουμε το σύστημα: Είναι ενημερωμένο; Λειτουργεί σωστά; Έχει ανάγκη επανεκκίνησης ή επαναρρύθμισης;
Επαναπρογραμματίζουμε (αν είναι εφικτό) ή διορθώνουμε τα σφάλματα.

Απευθυνόμαστε σε ειδικούς αν η κατάσταση ξεφεύγει από τις δικές μας δυνατότητες.
Επαναξιολογούμε τη σχέση μας με τη μηχανή ή το σύστημα: Μήπως της έχουμε δώσει υπερβολικές «εξουσίες»; Μήπως δεν έχουμε προβλέψει έλεγχο;

Ώρα για ηθική ασπίδα!
«Αν οι μηχανές αποκτήσουν αυτοσυνείδηση και δικαίωμα να παρακούσουν, τότε η επιστημονική φαντασία γίνεται ηθικό δίλημμα του σήμερα».
Τέλος O Mάριος Παπαευσταθίου τόνισε για τη δύναμη της καινοτομίας όταν αυτή λειτουργεί προς όφελος της κοινωνίας. Αλλά ζητά θεσμικές, νομικές και ηθικές εγγυήσεις:
Η τεχνητή νοημοσύνη να συμπληρώνει τον άνθρωπο, όχι να τον υπερκαλύπτει.
Οι μηχανές να δρουν εντός ελέγχου και επιτήρησης.
Η ανάπτυξη να υπηρετεί τη δημοκρατία, όχι να τη χειραγωγεί.