Νότια Κορέα: Το Telegram απολογείται για το χειρισμό «deepfake» πορνογραφικού υλικού

Τα deepfakes δημιουργούνται με τη χρήση τεχνητής νοημοσύνης και συχνά συνδυάζουν το πρόσωπο ενός πραγματικού προσώπου με ένα ψεύτικο σώμα

O ιστότοπος της εφαρμογής ανταλλαγής μηνυμάτων Telegram εμφανίζεται στην οθόνη ενός υπολογιστή 

Associated Press
3'

Το Telegram ζήτησε συγγνώμη από τις αρχές της Νότιας Κορέας για τον χειρισμό του deepfake πορνογραφικού υλικού που μοιράστηκε μέσω της εφαρμογής ανταλλαγής μηνυμάτων, εν μέσω μιας επιδημίας ψηφιακών σεξουαλικών εγκλημάτων στη χώρα.

Έρχεται λίγες ημέρες αφότου η αστυνομία της Νότιας Κορέας ανακοίνωσε ότι ξεκίνησε έρευνα κατά του Telegram, κατηγορώντας την για «υποκίνηση» της διανομής τέτοιων εικόνων.

Τις τελευταίες εβδομάδες, διαπιστώθηκε ότι ένας μεγάλος αριθμός chatrooms του Telegram, πολλά από τα οποία διευθύνονταν από εφήβους, δημιουργούσαν σεξουαλικά ρητά «deepfakes» χρησιμοποιώντας παραποιημένες φωτογραφίες νεαρών γυναικών.

Οι αρχές λένε ότι το Telegram έχει από τότε αφαιρέσει τέτοια βίντεο από την πλατφόρμα του.

Σε δήλωσή της προς την Επιτροπή Επικοινωνιακών Προτύπων της Νότιας Κορέας (KCSC), το Telegram δήλωσε ότι η κατάσταση ήταν «ατυχής», προσθέτοντας ότι «ζητά συγγνώμη αν υπήρξε κάποιο στοιχείο παρεξήγησης».

Επιβεβαίωσε επίσης ότι κατέβασε 25 τέτοια βίντεο, όπως ζήτησε η KCSC.

Στην τελευταία της δήλωση προς την KCSC, το Telegram πρότεινε επίσης μια διεύθυνση ηλεκτρονικού ταχυδρομείου αφιερωμένη στη μελλοντική επικοινωνία με τη ρυθμιστική αρχή.

Η KCSC χαρακτήρισε την προσέγγιση της εταιρείας ως «πολύ προνοητική» και δήλωσε ότι το Telegram «αναγνώρισε τη σοβαρότητα» της κατάστασης.

Τα deepfakes δημιουργούνται με τη χρήση τεχνητής νοημοσύνης και συχνά συνδυάζουν το πρόσωπο ενός πραγματικού προσώπου με ένα ψεύτικο σώμα.

Η πρόσφατη κρίση των deepfake αντιμετωπίστηκε με οργή στη Νότια Κορέα, αφού οι δημοσιογράφοι ανακάλυψαν ότι η αστυνομία ερευνούσε κυκλώματα πορνογραφίας deepfake σε δύο από τα μεγαλύτερα πανεπιστήμια της χώρας.

Αργότερα προέκυψε ότι η αστυνομία έλαβε 118 αναφορές για τέτοια βίντεο τις τελευταίες πέντε ημέρες. Επτά ύποπτοι, έξι εκ των οποίων είναι έφηβοι, ανακρίθηκαν από την αστυνομία την τελευταία εβδομάδα.

Οι ομάδες συνομιλίας συνδέονταν με μεμονωμένα σχολεία και πανεπιστήμια σε ολόκληρη τη χώρα. Πολλά από τα θύματά τους ήταν μαθητές και καθηγητές που ήταν γνωστοί στους δράστες.

Στη Νότια Κορέα, όσοι κριθούν ένοχοι για τη δημιουργία σεξουαλικών deepfakes μπορούν να φυλακιστούν έως και πέντε χρόνια και να τους επιβληθεί πρόστιμο έως και 50 εκατομμύρια γουόν (33.923 Ευρώ).

Αυτές οι ανακαλύψεις στη Νότια Κορέα ακολουθούν τη σύλληψη του ρωσικής καταγωγής ιδρυτή του Telegram, Πάβελ Ντούροφ, στη Γαλλία, με την κατηγορία ότι στην εφαρμογή ανταλλαγής μηνυμάτων γίνονταν παιδική πορνογραφία, διακίνηση ναρκωτικών και απάτη.

Ο κ. Ντούροφ έχει έκτοτε κατηγορηθεί.

Την περασμένη Τρίτη, ο πρόεδρος της Νότιας Κορέας Γιουν Σουκ Γιολ είχε δώσει εντολή στις αρχές να «ερευνήσουν διεξοδικά και να αντιμετωπίσουν αυτά τα ψηφιακά σεξουαλικά εγκλήματα για να τα εξαλείψουν».

Ακτιβιστές για τα δικαιώματα των γυναικών έχουν κατηγορήσει τις αρχές της Νότιας Κορέας ότι επιτρέπουν τη σεξουαλική κακοποίηση στο Telegram.

Το 2019, ανακαλύφθηκε ότι ένα κύκλωμα σεξουαλικών συναλλαγών είχε χρησιμοποιήσει την εφαρμογή για να εκβιάσει δεκάδες γυναίκες και παιδιά να γυρίσουν πορνογραφικό περιεχόμενο. Ο αρχηγός του κυκλώματος, ο Τσο Τζου-Μπιν, ο οποίος ήταν τότε 20 ετών, καταδικάστηκε σε 42 χρόνια φυλάκισης.

Με πληροφορίες από το BBC