Νέα συζήτηση για τη σχέση ανθρώπων και τεχνητής νοημοσύνης ανοίγει η Anthropic, η εταιρεία πίσω από το Claude. Σύμφωνα με δημοσίευμα της Ναυτεμπορικής, που επικαλείται το The Verge, η εταιρεία επικαιροποίησε την πολιτική χρήσης της, βάζοντας περιορισμούς σε ακραίες περιπτώσεις συστηματικής λεκτικής κακοποίησης του chatbot.

Το μέτρο προβλέπει τη δυνατότητα τερματισμού τέτοιων αλληλεπιδράσεων. Δεν αφορά, σύμφωνα με τις διευκρινίσεις που παραθέτει το δημοσίευμα, τη συνηθισμένη απογοήτευση ενός χρήστη, την έντονη διαφωνία ή την κριτική σε μια λανθασμένη απάντηση. Στοχεύει στην εσκεμμένη και επαναλαμβανόμενη επιθετική συμπεριφορά.

Επίσης, εξαιρούνται η συγγραφή κειμένων με σκοτεινή ή προκλητική θεματολογία και οι ερευνητικές δοκιμές. Επομένως, η περιγραφή του μέτρου δεν σημαίνει ότι κάθε αγενής διατύπωση οδηγεί σε αποκλεισμό λογαριασμού.

Η επιλογή της Anthropic προκάλεσε αντιδράσεις κυρίως λόγω της γλώσσας που χρησιμοποιείται για την προστασία των μοντέλων. Ο χαρακτηρισμός μιας συμπεριφοράς ως «κακοποίησης» δημιουργεί ερωτήματα για το κατά πόσο οι εταιρείες ενθαρρύνουν τους χρήστες να αντιμετωπίζουν τα συστήματα σαν ανθρώπινες οντότητες.

Ο Δρ. Μπάρι Σκάνελ, συνεργάτης τεχνολογίας στη δικηγορική εταιρεία William Fry, υποστήριξε, σύμφωνα με τη Ναυτεμπορική, ότι τέτοιες διατυπώσεις μπορούν να παρασύρουν το κοινό σε λανθασμένες αντιλήψεις για τις ιδιότητες της τεχνητής νοημοσύνης.

Η θέσπιση κανόνων συμπεριφοράς δεν αποτελεί απόδειξη ότι το Claude διαθέτει συναισθήματα. Πρόκειται για επιλογή της εταιρείας σχετικά με τον τρόπο χρήσης της υπηρεσίας της, η οποία όμως αγγίζει ένα ευρύτερο ζήτημα: πώς παρουσιάζονται τα chatbots και τι περιμένουν οι άνθρωποι από αυτά.

Η αναθεώρηση περιλαμβάνει, κατά το ίδιο δημοσίευμα, και περιορισμούς για παραπλανητικές εκστρατείες, εξαπάτηση ψηφοφόρων και διατάραξη εκλογικών διαδικασιών. Ωστόσο, η πρόβλεψη για την επιθετική συμπεριφορά απέναντι στο ίδιο το chatbot συγκέντρωσε ιδιαίτερο ενδιαφέρον.

Στο επίκεντρο επιστρέφει και η συζήτηση για την ευγένεια προς την τεχνητή νοημοσύνη. Άλλοι θεωρούν περιττά τα «παρακαλώ» και τα «ευχαριστώ», ενώ άλλοι αντιμετωπίζουν την ευγενική διατύπωση ως φυσική συνέχεια του τρόπου με τον οποίο επικοινωνούν.

Για τον χρήστη, πάντως, η ουσιαστική διάκριση είναι συγκεκριμένη: η απαίτηση για σωστές απαντήσεις και η αυστηρή κριτική διαφέρουν από τη συστηματική επιθετικότητα. Με βάση όσα παρατίθενται στο δημοσίευμα, η Anthropic επιχειρεί να περιορίσει τη δεύτερη, αφήνοντας χώρο για την πρώτη.

Claude Τεχνητή Νοημοσύνη