Το έτος είναι 1969. Ο Πρόεδρος Ρίτσαρντ Νίξον διάβασε μια ομιλία σχετικά με τους αστροναύτες του Apollo 11 που εγκλωβίστηκαν στο φεγγάρι. «Οι άνδρες που πήγαν στο φεγγάρι για να εξερευνήσουν με ειρήνη, θα μείνουν στο φεγγάρι και θα ξεκουραστούν εν ειρήνη», είπε. Αυτό δεν συνέβη. Στην πραγματικότητα, ο κόσμος παρακολούθησε καθώς το πλήρωμα του Apollo 11 προσγειώθηκε επιτυχώς και μετά επέστρεψε στη Γη. Αλλά ένα πρόσφατα εμφανισμένο deepfake βίντεο του πρώην προέδρου Νίξον σε αυτό το φανταστικό σενάριο φαινόταν να υποδηλώνει το αντίθετο. Το βίντεο του Nixon που δημιουργήθηκε από υπολογιστή δημιουργήθηκε από το Κέντρο Τεχνολογίας της Μασαχουσέτης για την Προηγμένη Εικονικότητα.
Η ομάδα του MIT ήθελε να δείξει πώς τα deepfakes θα μπορούσαν να επηρεάσουν τον κόσμο μας. Άτομα εμπιστοσύνης, δημοσιογράφοι και ηγέτες θα μπορούσαν να μεταμορφωθούν σε πράγματα που δεν είπαν και να κάνουν πράγματα που δεν έκαναν. Οι συνέπειες μπορεί να είναι καταστροφικές. Τώρα, οι νομοθέτες αγωνίζονται για καλύτερες λύσεις.
Σύμφωνα με μια μελέτη που κυκλοφόρησε από το AI Centre της Samsung, τα deepfakes δεν είναι καθόλου δύσκολο να δημιουργηθούν. Σε αντίθεση με τη δημοφιλή πεποίθηση, δεν χρειάζεται μια ολόκληρη βιβλιοθήκη εικόνων για να δημιουργήσετε ένα πειστικό μοντέλο κεφαλής που μιλάει – ένας έμπειρος σχεδιαστής μπορεί να το κάνει μόνο με μία.
Αμέσως, υπάρχουν πραγματικές ανησυχίες για τα deepfakes που οπλίζονται σε πολλά σενάρια, όπως στις εκλογές του 2020.
Φέτος, το Κογκρέσο ζήτησε από τον Διευθυντή της Εθνικής Υπηρεσίας Πληροφοριών για μια επίσημη έκθεση σχετικά με την τεχνολογία deepfake. Η Επιτροπή Πληροφοριών της Βουλής των Αντιπροσώπων έστειλε επίσης επιστολή στο Twitter, το Facebook και την Google ρωτώντας πώς σχεδίαζαν να αντιμετωπίσουν τα deepfakes στις εκλογές του 2020.
Εάν πολλά από τα σημερινά νέα κυκλοφορούν στα μέσα κοινωνικής δικτύωσης, αυτές οι εταιρείες τεχνολογίας θα μπορούσαν να παίξουν μεγάλο ρόλο στον τρόπο με τον οποίο κυκλοφορούν τα deepfakes. Αλλά εκεί βρίσκεται η συνεχιζόμενη συζήτηση για το τι συνιστά fake news. Το Facebook διστάζει να είναι εκείνος που αποφασίζει για την πραγματική αλήθεια, χωρίς να εμποδίζει το περιεχόμενο των περισσότερων χρηστών στον ιστότοπό του.
Όμως αυτή την εβδομάδα, το Facebook ενέδωσε στον αμφιλεγόμενο νόμο για τις ψεύτικες ειδήσεις της Σιγκαπούρης, εκδίδοντας ένα σημείωμα σε μια ανάρτηση που θεωρείται ψευδής είδηση από την κυβέρνηση της Σιγκαπούρης. Το σημείωμα έγραφε: «Το Facebook είναι νομικά υποχρεωμένο να σας ενημερώσει ότι η κυβέρνηση της Σιγκαπούρης λέει ότι αυτή η ανάρτηση έχει ψευδείς πληροφορίες».
Αυτή η εκπληκτική αλλαγή συνεργασίας με τις αρχές θα μπορούσε να ανοίξει νέα συζήτηση σχετικά με τη στάση τους απέναντι στις ψεύτικες ειδήσεις σε άλλες δικαιοδοσίες.
Και πέρα από τις επιχειρήσεις, κυβερνητικά ιδρύματα όπως η DARPA και κολέγια όπως το MIT, το Πανεπιστήμιο του Στάνφορντ και το Ινστιτούτο Πληροφορικής Max Planck πειραματίζονται επίσης με την τεχνολογία deepfake. Μερικά από αυτά τα έργα περιλαμβάνουν αλγόριθμους αντίστροφης μηχανικής για τον εντοπισμό βαθιάς ψεύτικων εικόνων.
Υπάρχει επίσης ένα Νόμος περί λογοδοσίας DEEPFAKES (τι θα λέγατε για αυτό για ένα ακρωνύμιο), ένα προτεινόμενο νομοσχέδιο που πρότεινε ο Rep. Yvette Clarke (D-NY). Απαιτείται από οποιονδήποτε δημιουργεί βαθιά ψεύτικο περιεχόμενο να βάλει ένα μη αφαιρέσιμο υδατογράφημα και περιγραφές κειμένου. Αν δεν γίνει αυτό θα ήταν έγκλημα.
Ο νόμος περί λογοδοσίας θα ήταν ένα βήμα προς τη σωστή κατεύθυνση, αλλά υπάρχουν κενά. Οι δημιουργοί Deepfake που θα συμμορφώνονταν με τέτοιους κανόνες μάλλον δεν είναι οι εγκληματίες που προσπαθούμε να σταματήσουμε εδώ. Τα υδατογραφήματα αφαιρούνται επίσης εύκολα. Ο νόμος κάνει ελάχιστα για να αντισταθεί σε κακόβουλους παράγοντες και στην ανάγκη αντιμετώπισης της πιθανής virality του deepfake περιεχομένου. Τα ψεύτικα μηνύματα θα μπορούσαν να έχουν εξαπλωθεί αστραπιαία πριν κάποιος καταλάβει ότι ήταν ψεύτικο.
Αλλά τουλάχιστον θα υπήρχε νόμος εναντίον του, ο οποίος θα ορίζει το έγκλημα. Αυτό θα μπορούσε να επιταχύνει τις δικαστικές διαδικασίες και να ξεκινήσει τη νομική συζήτηση για την καταπολέμηση των deepfakes.
Η προσέγγιση της Κίνας είναι απλώς η ποινικοποίηση των deepfakes που δημοσιεύονται χωρίς συμβουλευτική. Αυτό είναι παρόμοιο με το deepfake νομοσχέδιο της Καλιφόρνια που απαγορεύει την κυκλοφορία παραμορφωμένων εικόνων σχετικά με πολιτικούς εντός 60 ημερών από τις εκλογές.
Αν και μια απαγόρευση μπορεί να καταστήσει σαφή την πλήρη μισαλλοδοξία των κυβερνήσεων για παραμορφωμένα βίντεο, μπορεί να είναι δύσκολο να επιβληθεί. Δεν σταματά τη διάδοση ψευδών μηνυμάτων με αμεσότητα, που είναι το θέμα εδώ.
Κάποιοι έχουν αντιταχθεί στην ιδέα της απαγόρευσης, δηλώνοντας ότι υπάρχουν πραγματικά οφέλη από την τεχνολογία πίσω από τα deepfakes. Οι αλγόριθμοι Deepfake προσφέρουν την τεχνολογία της εικονικής πραγματικότητας και την επεξεργασία εικόνας σε νέα ύψη, χρησιμοποιώντας μηχανή να μάθουν να ενισχύουν τον ρεαλισμό, κάτι που θα μπορούσε να είναι ευπρόσδεκτο στην ψυχαγωγία, την εκπαίδευση και επίσης την ιατρική βιομηχανία. Η Ε&Α στον ιατρικό τομέα πειραματίζεται με την τεχνολογία deepfake για να παράγει ρεαλιστικές εικόνες εκτιμήσεων και προβλέψεων.
Αλλά αυτές οι εξελίξεις απειλούν να αναστατώσουν την κοινωνία σε άλλους τομείς, από την εμπιστοσύνη στον Τύπο και την ηγεσία. Οι αρχές πρέπει να δράσουν γρήγορα και να αποφασίσουν ποια είναι η προτεραιότητά τους.
Τα νέα είναι σε δύσκολη θέση σήμερα. Και καθώς η τεχνολογία deepfake γίνεται πιο διαδεδομένη, η πίστη στις ειδήσεις θα μπορούσε να γίνει ακόμα πιο δύσκολο να κρατηθεί.
Ωστόσο, εξακολουθούμε να λαμβάνουμε τεράστιες πληροφορίες παντού στο διαδίκτυο και εκτός. Μας καλύτερη άμυνα δεν λαμβάνει τα νέα που λαμβάνουμε στην ονομαστική τους αξία. Σκεφτείτε ποιος το δημοσίευσε και την πηγή του περιεχομένου. Αξίζει επίσης να αναζητήσετε τουλάχιστον δύο αξιόπιστες πηγές, για να διασφαλίσετε ότι μια ιστορία είναι πιθανώς ακριβής. Και αφιερώστε λίγο χρόνο για να τα εξετάσετε πριν τα μοιραστείτε.
Η ατομική ευθύνη φαίνεται να είναι το καλύτερο στοίχημά μας, έως ότου οι εταιρείες και η κυβέρνηση τυλίγουν το κεφάλι τους γύρω από την πολιτική βαθιάς ψεύτικης, η οποία ελπίζουμε ότι θα έρθει σύντομα.