Τρόμος στη Βρετανία: Παιδιά «χρησιμοποιούν ΑΙ για να φτιάξουν άσεμνες εικόνες συμμαθητών τους»

Τα παιδιά στα βρετανικά σχολεία χρησιμοποιούν τεχνητή νοημοσύνη (AI) για να δημιουργήσουν άσεμνες εικόνες άλλων παιδιών, προειδοποίησε μια ομάδα ειδικών σε θέματα κακοποίησης παιδιών και τεχνολογία. Οι ομάδες προστασίας ζητούν επείγουσα δράση για να βοηθήσουν τους μαθητές να κατανοήσουν τους κινδύνους δημιουργίας εικόνων που νομικά συνιστούν σεξουαλική κακοποίηση.

Ορισμένα σχολεία όπως είπαν, ανέφεραν για πρώτη φορά ότι οι μαθητές χρησιμοποιούσαν τεχνολογία που παράγει AI για να δημιουργήσουν εικόνες παιδιών που νόμιμα αποτελούσαν υλικό σεξουαλικής κακοποίησης παιδιών.

Η Έμα Χάρντι, διευθύντρια του Κέντρου Ασφαλούς Διαδικτύου του Ηνωμένου Βασιλείου (UKSIC), είπε ότι οι φωτογραφίες ήταν «τρομακτικά» ρεαλιστικές. «Η ποιότητα των εικόνων που βλέπουμε είναι συγκρίσιμη με τις επαγγελματικές φωτογραφίες που λαμβάνονται κάθε χρόνο από παιδιά σε σχολεία σε όλη τη χώρα», δήλωσε ηΧάρντι, η οποία είναι επίσης διευθύντρια επικοινωνίας του Ιδρύματος Internet Watch.

«Η φωτορεαλιστική φύση των εικόνων παιδιών που δημιουργούνται από την τεχνητή νοημοσύνη σημαίνει ότι μερικές φορές τα παιδιά που βλέπουμε είναι αναγνωρίσιμα ως θύματα προηγούμενης σεξουαλικής κακοποίησης. Τα παιδιά πρέπει να προειδοποιούνται ότι μπορεί να εξαπλωθεί στο διαδίκτυο και να καταλήξουν να τα δουν ξένοι και σεξουαλικά αρπακτικά. Η πιθανότητα κατάχρησης αυτής της τεχνολογίας είναι τρομακτική», είπε.

Η UKSIC, μια οργάνωση για την προστασία των παιδιών, λέει ότι τα σχολεία πρέπει να δράσουν επειγόντως για να δημιουργήσουν καλύτερα συστήματα αποκλεισμού κατά του υλικού κακοποίησης παιδιών. «Οι αναφορές που βλέπουμε για παιδιά που κάνουν αυτές τις εικόνες δεν πρέπει να προκαλούν έκπληξη. Αυτοί οι τύποι επιβλαβών συμπεριφορών θα πρέπει να προβλέπονται όταν οι νέες τεχνολογίες, όπως τα συστήματα τεχνητής νοημοσύνης, γίνουν πιο προσιτ'α στο κοινό», δήλωσε ο διευθυντής του UKSIC, Ντέιβιντ Ράιτ.

«Τα παιδιά μπορεί να εξερευνούν τις δυνατότητες των δημιουργών εικόνων AI χωρίς να εκτιμούν πλήρως τη βλάβη που μπορεί να προκαλούν. Αν και οι αριθμοί των κρουσμάτων είναι μικροί, βρισκόμαστε στην αρχή και πρέπει να δούμε μέτρα που γίνονται τώρα, προτού τα σχολεία κατακλυστούν και το πρόβλημα μεγαλώσει», είπε.

Οι εικόνες σεξουαλικής κακοποίησης παιδιών είναι παράνομες στο Ηνωμένο Βασίλειο – είτε έχουν δημιουργηθεί από τεχνητή νοημοσύνη είτε φωτογραφικές – με ακόμη και τα κινούμενα σχέδια ή άλλες λιγότερο ρεαλιστικές απεικονίσεις να εξακολουθούν να είναι παράνομες για δημιουργία, κατοχή και διανομή.

Τον περασμένο μήνα, το Internet Watch Foundation προειδοποίησε ότι οι εικόνες σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκαν από την τεχνητή νοημοσύνη «απειλούσαν να κατακλύσουν το Διαδίκτυο», με πολλές πλέον να είναι τόσο ρεαλιστικές που δεν διακρίνονται από τις πραγματικές εικόνες – ακόμη και από εκπαιδευμένους αναλυτές.