Μην πιστεύτε ότι βλέπετε:
το νέο σύστημα τεχνητής νοημοσύνης μπορεί να δημιουργήσει video
Deep Fake
Τι συμβαίνει όταν δεν μπορείτε να εμπιστεύεστε ό, τι βλέπουν
τα μάτια σας στην οθόνη; Καθώς η εποχή της μετά-αλήθειας συγκρούεται με την ταχέως
εξελισσόμενη ψηφιακή τεχνολογία, οι σε απευθείας συνδέσεις εκστρατείες
παραπληροφόρησης απειλούν να προκαλέσουν μια καταστροφική κρίση της εποχής της
πληροφορίας.
Εδώ είναι η τελευταία εξέλιξη: Οι επιστήμονες έχουν
αναπτύξει ένα αυτοματοποιημένο σύστημα λογισμικού που τροφοδοτείται με AI (τεχνιτή νοημοσύνη) και
μπορεί να χρησιμοποιηθεί τόσο για τη δημιουργία όσο και για την ανίχνευση
"βαθιών ψεύτικων" βίντεο - αλλοιωμένων βίντεο που μπορούν να
διαδώσουν παραπληροφόρηση και κακόβουλες φάρσες. Παρόμοια τεχνολογία έχει
ήδη χρησιμοποιηθεί για τη δημιουργία ψεύτικων βίντεο
διασημοτήτων και
ακόμη και για παραποιημένα βίντεο πορνείας με σκοπό την εκδίκηση ή τον εκβιασμό.
Τα βαθιά ψεύτικα βίντεο, επίσης ονομάζονται απλά deepfakes, βασίζονται σε
τεχνικές σύνθεσης εικόνας που μπορούν να μετατρέψουν το περιεχόμενο ενός
περιεχομένου βίντεο σε ένα άλλο στυλ σχεδόν άψογα. Σε ένα deepfake ,
η εικόνα ενός πολιτικού ή ενός δημόσιου προσώπου μπορούν να αλλάξουν έτσι ώστε
να φαίνεται πειστικά ότι λέει πράγματα που δεν έχει πει.
Οι ερευνητές στο πανεπιστήμιο Carnegie Mellon έχουν αναπτύξει μια νέα τεχνική που μπορεί να δημιουργήσει αυτόματα deepfakes, χωρίς να χρειάζεται ανθρώπινη παρέμβαση. Με τη βοήθεια της τεχνητής νοημοσύνης και της μηχανικής μάθησης, το σύστημα μπορεί να αντιγράψει τις εκφράσεις προσώπου κάποιου σε ένα βίντεο και στη συνέχεια να χαρτογραφήσει τα δεδομένα σε εικόνες κάποιου άλλου. Ο Μπαράκ Ομπάμα μπορεί εύκολα να μετατραπεί σε Donald Trump ή ο John Oliver μπορεί ξαφνικά να γίνει Stephen Colbert.
Το σύστημα μπορεί επίσης να μετατρέψει τις ασπρόμαυρες ταινίες σε έγρωμες ή να χειριστεί τις εικόνες έτσι ώστε ένα λουλούδι ιβίσκου να μετατραπεί ώστε να εμφανίζεται ως νάρκισσος. Επειδή αυτό το νέο εργαλείο μπορεί να μετατρέπει αυτόματα μεγάλες ποσότητες βίντεο, θα μπορούσε να είναι ιδιαίτερα χρήσιμο για σκηνοθέτες ή σχεδιαστές παιχνιδιών που επιθυμούν να δημιουργήσουν λεπτομερή ψηφιακά περιβάλλοντα.
Όμως, η ομάδα της CMU γνωρίζει επίσης ότι η τεχνολογία μπορεί να χρησιμοποιηθεί για βαθύτατους φραγμούς, αποδεικνύοντας πως το σύστημα μπορεί να ταιριάζει με τις εικόνες των Barack Obama και Donald Trump, κάνοντας να φανεί ότι κάποιος λέει λόγια που στην πραγματικότητα τα λέει άλλος.
"Ήταν κάτι που άνοιξε τα μάτια σε όλους μας στον τομέα, ότι τέτοιου είδους ψεύτικες απομιμήσεις θα δημιουργηθούν και θα έχουν τέτοιο αντίκτυπο», σημείωσε ο Bansal. "Είναι σημαντικό να προχωρήσουμε μπροστά για την εύρεση τρόπων ανίχνευσής τους."
Ο Bansal και οι συνάδελφοί του παρουσίασαν μια τέτοια μέθοδο αυτήν την εβδομάδα στην Ευρωπαϊκή Διάσκεψη για το Vision Computer , στο Μόναχο. Με την αποκάλυψη λεπτομερειών σχετικά με την τεχνική σε συναδέλφους προγραμματιστές και ερευνητές, η ομάδα της CMU ελπίζει να καταστήσει τα deepfakes πιο εύκολο να ταυτοποιθούν, ακόμα και όταν η τεχνολογία μεγαλώνει και εξελίσεται.
Η τεχνική CMU χρησιμοποιεί μια τάξη αλγορίθμων που ονομάζονται γενετικά δίκτυα αντιπαράθεσης, ή GANS. Αυτοί οι αλγόριθμοι χωρίζονται σε δύο μοντέλα, στη συνέχεια κόβει κομμάτια για να συγκρίνονται μεταξύ τους. Το μοντέλο "διάκρισης" μαθαίνει το στυλ μιας εικόνας ή βίντεο, ενώ η "γεννήτρια" των deedfakes μαθαίνει πώς να δημιουργεί εικόνες που ταιριάζουν με αυτό το στυλ για να ξεγελάσουν το μοντέλο "διάκρισης".
Οι ερευνητές στο πανεπιστήμιο Carnegie Mellon έχουν αναπτύξει μια νέα τεχνική που μπορεί να δημιουργήσει αυτόματα deepfakes, χωρίς να χρειάζεται ανθρώπινη παρέμβαση. Με τη βοήθεια της τεχνητής νοημοσύνης και της μηχανικής μάθησης, το σύστημα μπορεί να αντιγράψει τις εκφράσεις προσώπου κάποιου σε ένα βίντεο και στη συνέχεια να χαρτογραφήσει τα δεδομένα σε εικόνες κάποιου άλλου. Ο Μπαράκ Ομπάμα μπορεί εύκολα να μετατραπεί σε Donald Trump ή ο John Oliver μπορεί ξαφνικά να γίνει Stephen Colbert.
Το σύστημα μπορεί επίσης να μετατρέψει τις ασπρόμαυρες ταινίες σε έγρωμες ή να χειριστεί τις εικόνες έτσι ώστε ένα λουλούδι ιβίσκου να μετατραπεί ώστε να εμφανίζεται ως νάρκισσος. Επειδή αυτό το νέο εργαλείο μπορεί να μετατρέπει αυτόματα μεγάλες ποσότητες βίντεο, θα μπορούσε να είναι ιδιαίτερα χρήσιμο για σκηνοθέτες ή σχεδιαστές παιχνιδιών που επιθυμούν να δημιουργήσουν λεπτομερή ψηφιακά περιβάλλοντα.
Όμως, η ομάδα της CMU γνωρίζει επίσης ότι η τεχνολογία μπορεί να χρησιμοποιηθεί για βαθύτατους φραγμούς, αποδεικνύοντας πως το σύστημα μπορεί να ταιριάζει με τις εικόνες των Barack Obama και Donald Trump, κάνοντας να φανεί ότι κάποιος λέει λόγια που στην πραγματικότητα τα λέει άλλος.
"Ήταν κάτι που άνοιξε τα μάτια σε όλους μας στον τομέα, ότι τέτοιου είδους ψεύτικες απομιμήσεις θα δημιουργηθούν και θα έχουν τέτοιο αντίκτυπο», σημείωσε ο Bansal. "Είναι σημαντικό να προχωρήσουμε μπροστά για την εύρεση τρόπων ανίχνευσής τους."
Ο Bansal και οι συνάδελφοί του παρουσίασαν μια τέτοια μέθοδο αυτήν την εβδομάδα στην Ευρωπαϊκή Διάσκεψη για το Vision Computer , στο Μόναχο. Με την αποκάλυψη λεπτομερειών σχετικά με την τεχνική σε συναδέλφους προγραμματιστές και ερευνητές, η ομάδα της CMU ελπίζει να καταστήσει τα deepfakes πιο εύκολο να ταυτοποιθούν, ακόμα και όταν η τεχνολογία μεγαλώνει και εξελίσεται.
Η τεχνική CMU χρησιμοποιεί μια τάξη αλγορίθμων που ονομάζονται γενετικά δίκτυα αντιπαράθεσης, ή GANS. Αυτοί οι αλγόριθμοι χωρίζονται σε δύο μοντέλα, στη συνέχεια κόβει κομμάτια για να συγκρίνονται μεταξύ τους. Το μοντέλο "διάκρισης" μαθαίνει το στυλ μιας εικόνας ή βίντεο, ενώ η "γεννήτρια" των deedfakes μαθαίνει πώς να δημιουργεί εικόνες που ταιριάζουν με αυτό το στυλ για να ξεγελάσουν το μοντέλο "διάκρισης".
Τοποθετώντας τα δύο αυτά μοντέλα σε ανταγωνισμό μεταξύ τους,
το σύστημα AI (artificial intelligence) ουσιαστικά
μαθαίνει πώς να δημιουργει τις πιο ρεαλιστικές εικόνες. Η γεννήτρια
προσπαθεί να ξεγελάσει το διακριτικό και το διακριτικό σημειώνει την αποτελεσματικότητα
της γεννήτριας.
Το σύστημα είναι ένα είδος οπτικής έκδοσης παρόμοιου λογισμικού γλωσσικής μετάφρασης με τεχνολογία AI, στο οποίο τα αγγλικά μεταφράζονται στα ισπανικά, και ξανά πάλι πίσω στα αγγλικά. Διορθώνοντας τον εαυτό του ξανά και ξανά, το σύστημα μπορεί να μάθει νέες διαδικασίες από μόνο του και να βελτιώσει γρήγορα τα αποτελέσματά του.
Το σύστημα είναι ένα είδος οπτικής έκδοσης παρόμοιου λογισμικού γλωσσικής μετάφρασης με τεχνολογία AI, στο οποίο τα αγγλικά μεταφράζονται στα ισπανικά, και ξανά πάλι πίσω στα αγγλικά. Διορθώνοντας τον εαυτό του ξανά και ξανά, το σύστημα μπορεί να μάθει νέες διαδικασίες από μόνο του και να βελτιώσει γρήγορα τα αποτελέσματά του.
Αυτό το λογισμικό απεικόνισης θα μπορούσε ενδεχομένως να
έχει και άλλες εφαρμογές, δήλωσε ο Bansai. Για παράδειγμα, θα μπορούσε να
εφαρμοστεί για να βοηθήσει τα αυτοκινούμενα αυτοκίνητα να λειτουργούν με
μεγαλύτερη ασφάλεια σε συνθήκες χαμηλού φωτισμού. Περισσότερες
λεπτομέρειες σχετικά με την τεχνική, εδώ
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου