Το ερώτημα αποκτά ιδιαίτερη σημασία μετά τις χθεσινές τοποθετήσεις του Κυριάκου Μητσοτάκη για την αξιοποίηση της τεχνητής νοημοσύνης στο ελληνικό Δημόσιο.
Ο πρωθυπουργός περιέγραψε ένα μέλλον στο οποίο οι πολίτες θα αλληλεπιδρούν με το κράτος μέσω φωνητικών εντολών, πολυγλωσσικών υπηρεσιών και πιο διαισθητικών ψηφιακών εργαλείων.
Πρόκειται αναμφίβολα για μια ελκυστική εικόνα, καθώς αναμφίβολα η Ελλάδα έχει ήδη διανύσει σημαντική απόσταση στον ψηφιακό μετασχηματισμό της δημόσιας διοίκησης.
Όμως πίσω από τον ενθουσιασμό για τη νέα τεχνολογία κρύβεται ένα ερώτημα που σπανίως τίθεται στον δημόσιο διάλογο. Είναι η ψηφιοποίηση συνώνυμη της προόδου και κυρίως αποτελεί μια πραγματικά κοινωνική προσφορά;
Η σύγχρονη πολιτική συζήτηση μοιάζει συχνά να αντιμετωπίζει την τεχνολογία ως αυταξία. Κάθε νέα εφαρμογή θεωρείται βελτίωση. Κάθε αυτοματοποίηση παρουσιάζεται ως μεταρρύθμιση. Κάθε αλγόριθμος ως απόδειξη εκσυγχρονισμού.
Η πραγματικότητα, όμως, είναι πιο σύνθετη.
Ένα κράτος μπορεί να είναι πλήρως ψηφιακό και ταυτόχρονα βαθιά προβληματικό. Μπορεί να διαθέτει τις πιο εξελιγμένες ηλεκτρονικές πλατφόρμες και να παραμένει αργό στη λήψη αποφάσεων. Μπορεί να αυτοματοποιεί διαδικασίες χωρίς να αντιμετωπίζει τις αιτίες της γραφειοκρατίας. Μπορεί να συλλέγει περισσότερα δεδομένα χωρίς να παράγει κοινωνικές πολιτικές.
Με άλλα λόγια, η τεχνολογία μπορεί να αλλάξει τη μορφή του κράτους χωρίς να αλλάξει την ουσία του.
Η τεχνητή νοημοσύνη έρχεται σήμερα να προστεθεί σε αυτή τη συζήτηση ως η νέα μεγάλη υπόσχεση. Οι υποστηρικτές της μιλούν για εξατομικευμένες υπηρεσίες, ταχύτερη εξυπηρέτηση και αποτελεσματικότερη διαχείριση πόρων. Και πράγματι, πολλά από αυτά είναι εφικτά.
Το πρόβλημα είναι ότι η δημόσια συζήτηση επικεντρώνεται σχεδόν αποκλειστικά στις δυνατότητες και πολύ λιγότερο στους κινδύνους.
Ποιος ελέγχει τα συστήματα που λαμβάνουν αποφάσεις; Πώς ελέγχονται τα λάθη τους; Ποιος λογοδοτεί όταν ένας αλγόριθμος αποκλείει έναν πολίτη από μια υπηρεσία ή τον κατατάσσει λανθασμένα σε μια κατηγορία; Πόσο διαφανείς είναι οι μηχανισμοί που λειτουργούν πίσω από τις οθόνες;
Κυρίως, πόσο εύκολα μπορεί μια τεχνολογία που σχεδιάστηκε για τη διευκόλυνση του πολίτη να μετατραπεί σε εργαλείο επιτήρησης;
Αυτές οι ανησυχίες δεν εκφράζονται μόνο από ακτιβιστές ή ακαδημαϊκούς. Τις τελευταίες εβδομάδες, μία από τις πιο απρόσμενες φωνές διεθνούς σκεπτικισμού απέναντι στην ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης προήλθε από το Βατικανό.
Ο Πάπας Λέων ΙΔ΄, στις πρόσφατες παρεμβάσεις του για την τεχνητή νοημοσύνη, προειδοποίησε ότι η ανθρωπότητα κινδυνεύει να παραδώσει κρίσιμες αποφάσεις σε συστήματα τα οποία δεν διαθέτουν ούτε ηθική κρίση ούτε ανθρώπινη συνείδηση. Μίλησε για τον κίνδυνο συγκέντρωσης εξουσίας στα χέρια τεχνολογικών κολοσσών, για την αλλοίωση της ανθρώπινης αξιοπρέπειας και για τη χρήση της τεχνητής νοημοσύνης σε πολεμικές εφαρμογές που απομακρύνουν ολοένα περισσότερο τον άνθρωπο από την ευθύνη των αποφάσεών του.
Οι παρεμβάσεις του δεν αποτελούν απλώς μια θρησκευτική ή φιλοσοφική κριτική. Αποτελούν υπενθύμιση ότι η τεχνολογία δεν είναι ποτέ ουδέτερη.
Κάθε τεχνολογικό σύστημα ενσωματώνει αξίες, προτεραιότητες και σχέσεις ισχύος. Οι αλγόριθμοι δεν γεννιούνται στο κενό. Σχεδιάζονται από ανθρώπους, εκπαιδεύονται με δεδομένα που περιέχουν προκαταλήψεις και λειτουργούν μέσα σε πολιτικά και οικονομικά περιβάλλοντα που δεν είναι ουδέτερα.
Αυτό σημαίνει ότι η συζήτηση για την τεχνητή νοημοσύνη δεν είναι πρωτίστως τεχνολογική. Είναι πολιτική και κοινωνική.
Δεν αφορά μόνο το τι μπορεί να κάνει η ΑΙ. Αφορά το ποιος αποφασίζει πώς θα χρησιμοποιηθεί.
Η Ελλάδα, όπως και κάθε ευρωπαϊκή δημοκρατία, έχει κάθε λόγο να αξιοποιήσει τις δυνατότητες της τεχνολογίας. Η διευκόλυνση των ηλικιωμένων, η εξυπηρέτηση των ατόμων με αναπηρία και η καλύτερη πρόσβαση των πολιτών στις δημόσιες υπηρεσίες αποτελούν στόχους που δύσκολα μπορεί κανείς να αμφισβητήσει.
Αλλά η συζήτηση δεν μπορεί να σταματά εκεί.
Γιατί η ιστορία της τεχνολογίας είναι γεμάτη από υποσχέσεις που δεν επαληθεύτηκαν. Το διαδίκτυο θα έφερνε περισσότερη δημοκρατία. Τα κοινωνικά δίκτυα θα ενίσχυαν την ελεύθερη επικοινωνία. Οι ψηφιακές πλατφόρμες θα διεύρυναν τον ανταγωνισμό. Σε πολλές περιπτώσεις συνέβη ακριβώς το αντίθετο, συγκέντρωση ισχύος, χειραγώγηση της πληροφορίας και νέες μορφές εξάρτησης.
Δεν υπάρχει λόγος να πιστεύουμε ότι η τεχνητή νοημοσύνη αποτελεί εξαίρεση σε αυτόν τον κανόνα.
Το πραγματικό ερώτημα, επομένως, δεν είναι αν το κράτος θα γίνει πιο ψηφιακό. Αυτό είναι σχεδόν βέβαιο.
Το ερώτημα είναι αν θα γίνει πιο δίκαιο, πιο διαφανές, πιο δημοκρατικό και πιο ανθρώπινο.
Διότι η τεχνολογία από μόνη της δεν παράγει εμπιστοσύνη. Δεν παράγει λογοδοσία. Δεν παράγει δημοκρατία.
Αυτά είναι επιτεύγματα θεσμών και κοινωνιών.
Η Ιστορία δεν θα κρίνει την τεχνητή νοημοσύνη από το πόσο γρήγορα εξέδωσε πιστοποιητικά ή βεβαιώσεις. Θα την κρίνει από το αν ενίσχυσε τη δημοκρατία ή αν απλώς έκανε την εξουσία αποτελεσματικότερη.
Και αυτό παραμένει ένα ανοιχτό ερώτημα. Για την Ελλάδα, για την Ευρώπη και για ολόκληρο τον κόσμο.
