Τα παιχνίδια έχουν τη δύναμη να συνδέουν ανθρώπους σε όλο τον κόσμο στην απόλαυση και την ομαδική εργασία, αλλά μπορούν επίσης να δημιουργήσουν έναν χώρο κατάλληλο για τοξική ομιλία και μίσος. Η Activision επιχειρεί να ελαχιστοποιήσει το τελευταίο, ανακοινώνοντας μια νέα συνεργασία με τη Modulate, μια εταιρεία που χρησιμοποιεί τεχνολογία για να εντοπίσει αυτά τα ζητήματα, για άμεση εποπτεία φωνητικών συνομιλιών στο Call of Duty.
Το σύστημα AI της Modulate, ToxMod, επιχειρεί να εντοπίσει απειλές όπως ρητορική μίσους, ριζοσπαστικοποίηση και αυτοτραυματισμό σε πραγματικό χρόνο. Ισχυρίζεται ότι λειτουργεί σε τρία βήματα: διαλογή, ανάλυση και κλιμάκωση. Το ToxMod ακούει όλες τις φωνητικές συνομιλίες και σημεία που δικαιολογούν μια περαιτέρω ματιά. Αυτά τα δεδομένα με σημαία αποθηκεύονται στους διακομιστές τους, ενώ όλα τα άλλα δεδομένα θα υποβληθούν σε επεξεργασία απευθείας στην αρχική συσκευή. Η εταιρεία λέει ότι στη συνέχεια αξιολογεί τα πάντα, από τον τόνο μέχρι το συναίσθημα, αναλύοντας όχι μόνο «τι λέγεται, αλλά και πώς λέγεται και πώς ανταποκρίνονται οι άλλοι παίκτες σε αυτό». Τέλος, επιχειρεί να ειδοποιήσει τους συντονιστές για τα πιο τοξικά περιστατικά και αφήνει σε αυτούς να αναλάβουν δράση. Η εταιρεία ισχυρίζεται ότι είναι η «μόνη φωνητική λύση εποπτείας» που είναι διαθέσιμη αυτή τη στιγμή, έχοντας προστατεύσει «δεκάδες εκατομμύρια παίκτες».
Η ενσωμάτωση του ToxMod θα μπορούσε να βοηθήσει στην πρόληψη τοξικών αποκρίσεων στο σύνολό τους, λειτουργώντας παράλληλα με τα υπάρχοντα συστήματα με επίκεντρο το κείμενο και την αναφορά. «Η αντιμετώπιση της ενοχλητικής φωνητικής συνομιλίας είναι από καιρό μια εξαιρετική πρόκληση στα παιχνίδια», δήλωσε ο επικεφαλής τεχνολογίας της Activision, Michael Vance, σε μια δήλωση. “Με αυτή τη συνεργασία, φέρνουμε τώρα την τελευταία λέξη της τεχνολογίας μηχανικής εκμάθησης της Modulate που μπορεί να κλιμακωθεί σε πραγματικό χρόνο για ένα παγκόσμιο επίπεδο επιβολής. Αυτό είναι ένα κρίσιμο βήμα προς τα εμπρός για τη δημιουργία και τη διατήρηση μιας διασκεδαστικής, δίκαιης και φιλόξενης εμπειρίας για όλους τους παίκτες. ” Πέρυσι, η Activision άρχισε να επιτρέπει στις ομάδες εποπτείας παιχνιδιών να κάνουν σίγαση των παικτών χρησιμοποιώντας τοξική γλώσσα σε συνομιλίες φωνής και κειμένου.
Το ToxMod είναι πλέον διαθέσιμο ως έκδοση beta στα αγγλικά στη Βόρεια Αμερική για το Call of Duty: Modern Warfare II και το Call of Duty: Warzone. Θα κυκλοφορήσει παγκοσμίως — με εξαίρεση την Ασία — όταν το Call of Duty: Modern Warfare III κυκλοφορήσει στις 10 Νοεμβρίου.
