Τεχνητή νοημοσύνη: Ευκαιρίες και Aπειλές

Σχόλιο Ιγνάτη Ψάνη

Ολοκληρώνουμε την παρουσίαση του εξαιρετικά σημαντικού για το παρόν αλλά κυρίως για το άμεσο μέλλον θέματος της Τεχνητής Νοημοσύνης (ΤΝ) αναφερόμενοι στους φόβους, επιφυλάξεις, κινδύνους (δικαιολογημένα όλα). Αν δεν υπάρξει ένας παγκόσμιος έλεγχος της χρήσης και της εκμετάλλευσής της, πολύ φοβόμαστε ότι θα  έχουμε να διαλέξουμε ανάμεσα σε μια Βαβέλ και ένα Αρμαγεδδώνα! Από όσα διαβάσαμε και αναρτήσαμε πρόκειται για τη μεγαλύτερη επινόηση του ανθρώπινου μυαλού…

Απειλές και προκλήσεις της ΤΝ

Η ολοένα και αυξανόμενη εξάρτησή μας από συστήματα ΤΝ ενέχει, από την άλλη, δυνητικούς κινδύνους.

Υποχρησιµοποίηση ή κατάχρηση της ΤΝ

Η ανεπαρκής αξιοποίηση της ΤΝ μπορεί να αποτελέσει σοβαρή απειλή για την ΕΕ: οι χαμένες ευκαιρίες θα μπορούσαν να οδηγήσουν στην αναποτελεσματική εφαρμογή σημαντικών προγραμμάτων της ΕΕ, όπως είναι η Ευρωπαϊκή Πράσινη Συμφωνία, την απώλεια ανταγωνιστικού πλεονεκτήματος έναντι άλλων περιοχών, την οικονομική στασιμότητα, αλλά και περιορισμένες δυνατότητες για τους πολίτες. Η υποχρησιμοποίηση μπορεί να προκύψει από την έλλειψη εμπιστοσύνης του ιδιωτικού και δημόσιου τομέα στην ΤΝ, τις φτωχές υποδομές, την έλλειψη πρωτοβουλιών, τις χαμηλές επενδύσεις ή τις κατακερματισμένες ψηφιακές αγορές, δεδομένης της εξάρτησης της μηχανικής μάθησης της ΤΝ από τα δεδομένα.

Η κατάχρηση μπορεί επίσης να αποδειχθεί προβληματική σε περίπτωση λανθασμένης ή άσκοπης εφαρμογής της ΤΝ, για παράδειγμα για την επεξήγηση πολύπλοκων κοινωνικών ζητημάτων.

Απόδοση ευθύνης σε περίπτωση δυσλειτουργίας των συστημάτων ΤΝ

Η απόδοση ευθυνών σε περίπτωση δυσλειτουργίας των συστημάτων ΤΝ αποτελεί σημαντική πρόκληση: ποιος φέρει την ευθύνη σε περίπτωση ατυχήματος με αυτοκίνητο χωρίς οδηγό; Ο ιδιοκτήτης του αυτοκινήτου, ο κατασκευαστής ή ο προγραμματιστής του;

Εάν ο παραγωγός ήταν απαλλαγμένος από κάθε ευθύνη, δεν θα υπήρχε κίνητρο παροχής καλού προϊόντος ή υπηρεσίας, κάτι που θα μπορούσε να βλάψει την εμπιστοσύνη του κόσμου στην τεχνολογία. Από την άλλη, η ύπαρξη αυστηρών κανονισμών θα μπορούσε να καταστείλει την καινοτομία.

Η ΤΝ ως απειλή για τη δημοκρατία και τα θεμελιώδη δικαιώματα

Τα αποτελέσματα που παράγουν οι τεχνολογίες ΤΝ εξαρτώνται από τον τρόπο σχεδιασμού τους και τα δεδομένα που χρησιμοποιούν. Τόσο ο σχεδιασμός όσο και οι βάσεις δεδομένων μπορούν να περιέχουν προγραμματισμένες ή μη προκαταλήψεις. Για παράδειγμα, σημαντικές πτυχές νεός ζητήματος ενδέχεται να μην έχουν ενσωματωθεί στον αλγόριθμο ή μπορεί να έχουν προγραμματιστεί με τρόπο που να αντανακλούν και αναπαράγουν συγκεκριμένες προκαταλήψεις. Επιπλέον, η χρήση αριθμών για την επεξήγηση πολύπλοκων κοινωνικών πραγματικοτήτων μπορεί να δίνει την λάθος εντύπωση ότι οι τεχνολογίες ΤΝ παρέχουν τεκμηριωμένες και ακριβείς πληροφορίες (“mathwashing”).

Η κακή χρήση της ΤΝ μπορεί να οδηγήσει στη λήψη μεροληπτικών αποφάσεων (με βάση το φύλο και την εθνότητα, την ηλικία) κατά τη πρόσληψη ή απόλυση εργαζομένων, τη χορήγηση δανείων ή τη άσκηση ποινικών διώξεων.

Η ΤΝ μπορεί να έχει σοβαρό αντίκτυπο στο δικαίωμα της ιδιωτικής ζωής και της προστασίας των δεδομένων. Μπορεί, για παράδειγμα, να χρησιμοποιηθεί από τεχνολογίες αναγνώρισης προσώπου ή για τον εντοπισμό και την ανάλυση προφίλ ατόμων στο διαδίκτυο. Ακόμη, η ΤΝ επιτρέπει τη συγκέντρωση μεμονωμένων πληροφοριών που έχει παράσχει ένας χρήστης και το συνδυασμό τους με νέους τρόπους για την παραγωγή ενός άγνωστου για τον χρήστη αποτελέσματος.

Μπορεί να αποτελέσει, επίσης, απειλή για τη δημοκρατία: η ΤΝ έχει ήδη κατηγορηθεί για τη δημιουργία διαδικτυακών “θαλάμων αντήχησης” (echo chambers) βάσει προγενέστερης διαδικτυακής συμπεριφοράς, την εμφάνιση περιεχομένου που αντιστοιχεί μόνο στις προτιμήσεις του χρήστη αντί για τη δημιουργία ενός περιβάλλοντος που να ενθαρρύνει τον πλουραλιστικό και ανοικτό δημόσιο διάλογο. Μπορεί ακόμα να χρησιμοποιηθεί για τη δημιουργία ρεαλιστικών αλλά παραποιημένων βίντεο, ήχων και εικόνων, γνωστών ως “deepfakes”, που μπορούν να θέσουν σε κίνδυνο την οικονομία, να βλάψουν τη φήμη ορισμένων ανθρώπων και να θέσουν εμπόδια στη διαδικασία λήψης αποφάσεων, ενώ μπορούν να προκαλέσουν πόλωση στη δημόσια σφαίρα και χειραγώγηση εκλογών.

Η ΤΝ μπορεί επίσης να περιορίσει ελευθερία του συνέρχεσθαι και της ειρηνικής διαμαρτυρίας, καθώς έχει τη δυνατότητα εντοπισμού και ανάλυσης προφίλ ατόμων που ταυτίζονται με μια συγκεκριμένη ιδεολογία ή πράξεις.

Το αντίκτυπο της ΤΝ στις θέσεις εργασίας

Η χρήση της ΤΝ στο χώρο εργασίας αναμένεται να επιφέρει την εξαφάνιση ενός μεγάλο αριθμού επαγγελμάτων. Παρότι η ΤΝ αναμένεται επίσης να δημιουργήσει και να βελτιώσει υπάρχουσες θέσεις εργασίας, η διασφάλιση σωστής εκπαίδευσης και κατάρτισης θα παίξει κρίσιμο ρόλο στην πρόληψη της μακράς ανεργίας και την ανάπτυξη ειδικευμένου εργατικού δυναμικού.

Ανταγωνισμός

Η μαζική συγκέντρωση πληροφοριών μπορεί επίσης να οδηγήσει σε στρέβλωση του ανταγωνισμού καθώς οι κάτοχοι περισσότερων πληροφοριών θα μπορούν να αποκτήσουν πλεονέκτημα και να εξαλείψουν τους ανταγωνιστές τους από την αγορά.

Κίνδυνοι ασφαλείας

Οι εφαρμογές ΤΝ που έρχονται σε φυσική επαφή με τους ανθρώπους ή έχουν ενσωματωθεί στο ανθρώπινο σώμα μπορούν να παρουσιάσουν κινδύνους αν δεν έχουν σχεδιαστεί σωστά ή έχουν γίνει αντικείμενο κατάχρησης.

Η ανεπαρκώς ρυθμισμένη χρήση όπλων εξοπλισμένων με συστήματα ΤΝ μπορεί να προκαλέσει απώλεια ελέγχου, με σοβαρές επιπτώσεις για την ανθρώπινη ασφάλεια.

Προκλήσεις διαφάνειας

Η άνιση πρόσβαση στην πληροφορία μπορεί να αποτελέσει αντικείμενο εκμετάλλευσης. Για παράδειγμα, ένας διαδικτυακός πωλητής θα μπορούσε, βάσει της διαδικτυακής συμπεριφοράς ενός ατόμου ή άλλων δεδομένων (και εν αγνοία του), να κάνει χρήση ΤΝ για να προβλέψει πόσα χρήματα σκοπεύει να ξοδέψει. Παρομοίως, μια πολιτική εκστρατεία μπορεί να προσαρμόσει το μήνυμά της για να ταιριάξει στο προφίλ του συγκεκριμένου ατόμου.

Επιπλέον, μερικές φορές μας είναι δύσκολο να γνωρίζουμε αν συνομιλούμε με πραγματικό άνθρωπο ή τεχνολογία ΤΝ.

Πηγή: https://www.europarl.europa.eu/news/el/headlines/society/20200918STO87404/techniti-noimosuni-eukairies-kai-apeiles