Ποιος φταίει όταν οδηγεί ο αλγόριθμος;

Μανώλης Ανδριωτάκης

15.09.2025 • 23:07

BRUCE HOLSINGER
Culpability
εκδ. Spiegel & Grau, 2025, σελ. 380

«Τα μυθιστορήματα που αγνοούν την τεχνολογία», γράφει ο Αμερικανός συγγραφέας Κουρτ Βόνεγκατ, «παρουσιάζουν τη ζωή τόσο στρεβλά όσο και οι Βικτωριανοί που αγνοούσαν το σεξ». Αυτό το μότο επαναλαμβανόταν στο μυαλό μου πρόσφατα, όσο διάβαζα το Culpability (Υπαιτιότητα) του Μπρους Χόλσινγκερ, το μελλοντολογικό μυθιστόρημα που αναδείχθηκε μέσα απ’ την καλοκαιρινή λέσχη βιβλίου της Οπρα Γουίνφρεϊ, στο οποίο η τεχνολογία δεν διατρέχει απλά την ιστορία, αλλά πρωταγωνιστεί.

Η υπόθεση ξεκινάει σ’ ένα μέλλον που έρχεται καλπάζοντας. Ο Νόα Σο, δικηγόρος και πατέρας τριών παιδιών, αγοράζει ένα μίνι βαν με αυτόνομη οδήγηση. Στην πρώτη οικογενειακή εξόρμηση, το όχημα συγκρούεται με άλλο αυτοκίνητο κι ένα ζευγάρι ηλικιωμένων χάνει τη ζωή του. Από το τραγικό συμβάν αναδύεται το μεγάλο ερώτημα: «Ποιος φταίει;». Ο Χόλσινγκερ στρέφει το βλέμμα του σε κάθε πιθανό πρόσωπο της υπόθεσης. Ο γιος βρίσκεται στη θέση του οδηγού, απορροφημένος από το κινητό του. Ο πατέρας, αντί να ελέγχει την κατάσταση, δουλεύει στον υπολογιστή του, το ίδιο και η μητέρα, η οποία τυχαίνει να είναι και ειδική στην ηθική της τεχνητής νοημοσύνης. Η αλυσίδα των ευθυνών επεκτείνεται στην αυτοκινητοβιομηχανία και στον μεγιστάνα που την διευθύνει. Το ερώτημα, τελικά, αγγίζει και τον ίδιο τον αλγόριθμο.

Το μυθιστόρημα θα μπορούσε να είναι μια καλή εισαγωγή του διάσημου «προβλήματος του τρόλεϊ». Οταν μια μηχανή βρίσκεται αντιμέτωπη μ’ ένα αδιέξοδο, ποιον θα επιλέξει να θυσιάσει, και ποιον να σώσει; Εναν επιστήμονα με εξειδίκευση κρίσιμη για το μέλλον της ανθρωπότητας, ή μια έγκυο γυναίκα; Η «Υπαιτιότητα» δεν περιορίζεται στη θεωρητική συζήτηση. Ο Χόλσινγκερ δείχνει πώς η τεχνολογία διαπερνά την καθημερινότητα μιας οικογένειας, με όλες τις αδυναμίες και τις αντιφάσεις της. Ο πατέρας είναι απορροφημένος στη δουλειά του, ο γιος παλεύει με τη διάσπαση της προσοχής, οι μικρές κόρες συνομιλούν με μποτς συντροφιάς, η μητέρα βρίσκεται εγκλωβισμένη ανάμεσα στην επαγγελματική της γνώση και την ατομική της ευθύνη.

Πόσο τέλεια είναι η αψεγάδιαστη ζωή των millennials;

Η πλοκή του μυθιστορήματος κορυφώνεται όταν αποκαλύπτεται ότι η μητέρα είχε καθοριστικό ρόλο στη συγγραφή του αλγορίθμου. Ο αναγνώστης καταλαβαίνει ότι τα συστήματα που εμπιστευόμαστε δεν είναι προϊόντα ουδέτερης σκέψης· αντικατοπτρίζουν τις επιλογές, τις παραλείψεις και τα λάθη εκείνων που τα σχεδίασαν. Η φράση της Λόρελεϊ λειτουργεί ως υπενθύμιση και ως συναγερμός: «Ο αλγόριθμος δεν θα αιμορραγήσει ποτέ για εμάς, δεν θα υποφέρει, δεν θα θρηνήσει». Κι όμως του παραχωρούμε την εξουσία να αποφασίζει. Το βιβλίο έρχεται σε μια περίοδο όπου τα αυτόνομα οχήματα έχουν περάσει από το στάδιο του πειράματος στο πεδίο της εφαρμογής. Τα θανατηφόρα δυστυχήματα που θα προκύψουν από τα αυτόνομα οχήματα θα αποτελούν σύντομα ένα δημόσιο θέμα, με κοινωνικές, οικονομικές, νομικές και πολιτικές διαστάσεις. Βεβαίως, ο Χόλσινγκερ γράφει μυθοπλασία, και κατά συνέπεια δεν προσφέρει λύσεις, αλλά μας αναγκάζει να δούμε κατάματα την πρόκληση: Πώς θα επιμερίζουμε τις ευθύνες όταν τα μαθηματικά μοντέλα έχουν πλέον στα χέρια τους τα αυτοκίνητά μας, κι άρα τις ίδιες τις ζωές μας;

Η «Υπαιτιότητα» είναι μια συναρπαστική αφήγηση που μας θυμίζει ότι η τεχνητή νοημοσύνη δεν αναπτύσσεται στο κενό, αλλά ενσωματώνει τις αξίες και τις αποφάσεις των δημιουργών της. Πίσω από κάθε γραμμή κώδικα κρύβεται ένας προγραμματιστής, ένας μηχανικός, ένας διευθυντής, ή ακόμα κι ένας φιλόσοφος που μπορεί να κάνει και λάθος. Ο πυρήνας του θέματος βρίσκεται εκεί: η ηθική της τεχνητής νοημοσύνης είναι η δική μας ηθική. Οσο κι αν επιχειρούμε να μεταθέσουμε το βάρος στην τεχνολογία, η ευθύνη επιστρέφει σε εμάς. Κατά βάση, οι βασικοί υπαίτιοι κάθε ατυχήματος δεν είναι οι αλγόριθμοι, αλλά εμείς, οι πάντα ατελείς άνθρωποι.