Η Midjourney βάζει τέλος στην ελεύθερη χρήση της γεννήτριας εικόνων AI, αφού κάποιοι δημιούργησαν υψηλού προφίλ deepfakes χρησιμοποιώντας το εργαλείο. Ο διευθύνων σύμβουλος David Holz αναφέρει στο Discord ότι η εταιρεία τερματίζει τις δωρεάν δοκιμές λόγω “εξαιρετικής ζήτησης και κατάχρησης της δοκιμής”. Οι νέες διασφαλίσεις δεν ήταν “επαρκείς” για την αποτροπή της κατάχρησης κατά τη διάρκεια των δοκιμαστικών περιόδων, λέει ο Holz. Προς το παρόν, θα πρέπει να πληρώνετε τουλάχιστον 10 δολάρια το μήνα για να χρησιμοποιήσετε την τεχνολογία.
Όπως εξηγεί η Washington Post, το Midjourney βρέθηκε στο επίκεντρο ανεπιθύμητης προσοχής τις τελευταίες εβδομάδες. Οι χρήστες βασίστηκαν στην τεχνητή νοημοσύνη της εταιρείας για να δημιουργήσουν deepfakes του Ντόναλντ Τραμπ που συνελήφθη και του Πάπα Φραγκίσκου που φορούσε ένα μοντέρνο παλτό. Αν και οι εικόνες αναγνωρίστηκαν γρήγορα ως ψεύτικες, υπάρχει ανησυχία ότι οι κακοί φορείς μπορεί να χρησιμοποιήσουν το Midjourney, το DALL-E της OpenAI και παρόμοιες γεννήτριες για τη διάδοση παραπληροφόρησης.
Η Midjourney έχει παραδεχτεί ότι αντιμετωπίζει προβλήματα στη θέσπιση πολιτικών σχετικά με το περιεχόμενο. Το 2022, ο Holz δικαιολόγησε την απαγόρευση εικόνων του Κινέζου ηγέτη Xi Jinping λέγοντας στους χρήστες του Discord ότι η ομάδα του ήθελε μόνο να “ελαχιστοποιήσει το δράμα” και ότι η ύπαρξη οποιασδήποτε πρόσβασης στην Κίνα ήταν πιο σημαντική από το να επιτραπεί σατιρικό περιεχόμενο. Σε μια συνομιλία της Τετάρτης με χρήστες, ο Holz δήλωσε ότι δυσκολευόταν να ορίσει πολιτικές περιεχομένου, καθώς η τεχνητή νοημοσύνη επέτρεπε όλο και πιο ρεαλιστικές εικόνες. Το Midjourney ελπίζει να βελτιώσει τη μετριοπάθεια της AI που ελέγχει για κατάχρηση, πρόσθεσε ο ιδρυτής.
Ορισμένοι προγραμματιστές έχουν καταφύγει σε αυστηρούς κανόνες για να αποτρέψουν περιστατικά. Το OpenAI, για παράδειγμα, αποκλείει κάθε εικόνα με τρέχοντα πολιτικά γεγονότα, θεωρίες συνωμοσίας και πολιτικούς. Απαγορεύει επίσης το μίσος, τη σεξουαλικότητα και τη βία. Ωστόσο, άλλοι έχουν σχετικά χαλαρές κατευθυντήριες γραμμές. Το Stability AI δεν αφήνει τους χρήστες του Stable Diffusion να αντιγράφουν στυλ ή να φτιάχνουν εικόνες που δεν είναι ασφαλείς για την εργασία, αλλά γενικά δεν υπαγορεύει τι μπορούν να φτιάξουν οι χρήστες.
