H OpenAI «εξερευνά» την θέση του ChatGPT για το AI-generated πορνό

Χαλαρή στάση αλλά δεν θα επιτρέψει τα deepfakes.

Η Open AI σκέφτεται να επιτρέψει στους χρήστες να κάνουν generate NSFW content σε πλαίσια που είναι κατάλληλα για την ηλικία των χρηστών μέσω API του Chat GPT. Η δημιουργία της AI-generated πορνογραφίας, ανοίγει πιθανώς έναν τεράστιο πυρήνα προβλημάτων για την πολύ δημοφιλή τεχνητή νοημοσύνη, η οποία ήδη αποτελεί στόχο κάθε είδους ερευνών, κριτικής και νομικής αναστάτωσης.

Η ανακοίνωση ότι η OpenAI "εξετάζει" το ενδεχόμενο να ανοίξει τα εργαλεία της σε σαφές περιεχόμενο που έρχεται σε μορφή σύντομης παραπομπής σε ένα μακροσκελές έγγραφο σχετικά με την ανάπτυξη των AI models. Αυτήν την στιγμή, τα εργαλεία της OpenAI όπως το ChatGPT υπόκεινται σε φίλτρα περιεχομένου που πρέπει να εμποδίζουν την παραγωγή ακατάλληλου περιεχομένου προς τους ανυποψίαστους χρήστες, και είναι σημαντικό να τονιστεί ότι η αλλαγή αυτή είναι απλά κάτι που σκέφτεται η OpenAI. Δεν υπάρχουν συγκεκριμένα σχέδια ακόμα. Ωστόσο, αυτά τα φίλτρα μπορεί να χαλαρωθούν στο μέλλον, επιτρέποντας στους χρήστες να παράγουν σχεδόν οποιοδήποτε ακατάλληλο περιεχόμενο επιθυμούν.

Σε σχόλια στο NPR, η Joanne Jang (model lead της OpenAI) είπε ότι -παρόλο που η εταιρεία μια μέρα μπορεί επιτρέψει πράγματα που εμπίπτουν στον «ορισμό της πορνογραφίας»- οτιδήποτε παραβιάζει τους νόμους ή τα δικαιώματα άλλων ανθρώπων είναι απαγορευμένο. Αυτό σημαίνει ότι τα deepfakes είναι τελείως αποκλεισμένα. Η απαγόρευση των deepfakes είναι αναμφίβολα για το καλύτερο, αλλά είναι δύσκολο να γνωρίζουμε αν τυχόν φίλτρα περιεχομένου που φτιάχνονται για να τα αποτρέψουν θα αντέξουν. Οι άνθρωποι έχουν ήδη βρει τρόπους να παρακάμψουν τα τρέχοντα φίλτρα του ChatGPT και να το καταστήσουν ικανό για τη δημιουργία NSFW περιεχομένου.

Σε σχόλιο προς το NPR, η καθηγήτρια νομικής Tiffany Li είπε: «Είναι ένας θαυμάσιος στόχος, να εξερευνηθεί αυτό για εκπαιδευτικούς και καλλιτεχνικούς σκοπούς, αλλά πρέπει να είναι εξαιρετικά προσεκτικοί με αυτό.» Μιλώντας στο Guardian, η καθηγήτρια Clare McGlynn είπε ότι είναι «βαθιά επιφυλακτική για οποιονδήποτε τρόπο με τον οποίο θα προσπαθήσουν να περιορίσουν αυτό σε υλικό που δημιουργήθηκε με συγκατάθεση και νόμιμο.»

Η OpenAI ακόμα το σκέφτεται. Η Jang είπε: «Υπάρχουν και δημιουργικές περιπτώσεις στις οποίες το περιεχόμενο που σχετίζεται με σεξ και γυμνισμό είναι σημαντικό για τους χρήστες μας. Θα εξερευνήσουμε αυτόν τον τομέα με έναν τρόπο όπου θα παρέχουμε το περιεχόμενο αυτό με σεβασμό στην ηλικία του κοινού.»

Διαβάστε για την εταιρεία AI προσφέρει skins στο Fortnite και gift codes στο Roblox με αντάλλαγμα να χρησιμοποιεί τις GPU των παικτών για να φτιάχνει πορνό και συζητήστε για το ChatGPT στο σχετικό forum topic.