Χρήστες του 4Chan έφτιαξαν, μέσω A.I., ηχητικά clips με φωνές από celebrities, όπου βρίζουν και κάνουν ρατσιστικά σχόλια

Η εταιρεία ανάπτυξης της A.I. δήλωσε ότι θα πάρει περισσότερα μέτρα ασφαλείας.

Χρήστες του 4Chan έφτιαξαν, μέσω της A.I. Voice Lab, ηχητικά clips με φωνές από celebrities, όπου βρίζουν και κάνουν ρατσιστικά σχόλια.

Η Voice Lab αναπτύχθηκε από την ElevenLabs, μία εταιρεία που ειδικεύεται σε AI software και μπορεί να κλωνοποιήσει μία φωνή αν την ακούσει για ένα λεπτό. Από εκεί και πέρα οι χρήστες μπορούν να χρησιμοποιήσουν αυτή την φωνή για να την βάλουν να διαβάσει 2.500 χαρακτήρες. Διάφοροι χρήστες του 4Chan χρησιμοποίησαν την Voice Lab για να κατασκευάσουν φωνές γνωστών celebrities και τις βάζουν να λένε, ρατσιστικά, ομοφοβικά και γενικώς προσβλητικά λόγια και τα ανεβάζουν στο internet.

Thank you everyone for your advice. We love what you’re creating, but a set of actors use our tech for malicious purposes. We decided to take the following steps to address the issues:

— ElevenLabs (@elevenlabsio) January 31, 2023

Η ElevenLabs δήλωσε ότι θα λάβει μέτρα ώστε η Voice Lab να μην χρησιμοποιείται για κακόβουλους σκοπούς και ανέλυσε λεπτομερώς το πώς θα την κρατήσει μακριά από τα λάθος χέρια. Αρχικά θα κυκλοφορήσει ένα tool, το οποίο θα επιβεβαιώνει αν κάποιο clip έχει δημιουργηθεί μέσω αυτής της τεχνολογίας. Επιπλέον θα ζητάει επιβεβαίωση ταυτότητας για τον κάθε λογαριασμό που τη χρησιμοποιεί. Τέλος η Voice Lab θα είναι διαθέσιμο μόνο επί πληρωμή και η δωρεάν έκδοσή της θα καταργηθεί.

Η ElevenLabs επίσης θα ρίξει bans σε όλους τους λογαριασμούς που έφτιαξαν κακόβουλο περιεχόμενο μέσω της Α.Ι. Επίσης παραδέχθηκε ότι το κόστος μπορεί να μην λύσει το πρόβλημα αλλά θα κάνει τους ανθρώπους λιγότερο ανώνυμους αλλά θα τους αναγκάσει να σκέφτονται παραπάνω πριν κάνουν οτιδήποτε.

Διαβάστε επίσης για μία παρόμοια A.I. της Microsoft και συζητήστε για το θέμα στο σχετικό forum topic.