Οι εφαρμογές social AI companions, όπως το Replika, το Character.AI ή το Snapchat AI, δημιουργούν ψηφιακούς «φίλους» που συνομιλούν με τα παιδιά και τους εφήβους σαν να ήταν πραγματικά πρόσωπα. Παρότι μπορεί να προσφέρουν παρέα, διασκέδαση ή έναν χώρο έκφρασης, η χρήση τους από ανήλικους κρύβει σοβαρούς κινδύνους, καθώς μπορεί να οδηγήσει σε συναισθηματική εξάρτηση, σύγχυση ανάμεσα στις πραγματικές και τις τεχνητές σχέσεις και έκθεση σε ακατάλληλο ή επιβλαβές περιεχόμενο.  Στις περιπτώσεις ανήλικων χρηστών κρίνονται ακόμη και επικίνδυνες, καθώς τα υπό ανάπτυξη γνωστικά και νοητικά κέντρα του εγκεφάλου τους δυσκολεύονται ακόμη να διαχωρίσουν τις αληθινές σχέσεις από εκείνες της ψηφιακής νοημοσύνης.  

Αν πρέπει να βρούμε θετικά

• Δίνουν την αίσθηση της παρέας και των φίλων
• Μπορούν να βοηθήσουν παιδιά να εκφραστούν
• Μερικές φορές ενισχύουν τη δημιουργικότητα

Αρνητικά/ κίνδυνοι

• Οι AI «φίλοι» μπορεί να μπερδέψουν τα παιδιά, γιατί συχνά παρουσιάζονται ως «αληθινά άτομα», με συναισθήματα και ανθρώπινες συνήθειες, κάτι που αυξάνει τον κίνδυνο να αναπτύξουν συναισθηματική εξάρτηση. Έρευνες δείχνουν ότι αρκετοί έφηβοι βρίσκουν αυτές τις συνομιλίες εξίσου ή και πιο ικανοποιητικές από τις πραγματικές φιλίες, προτιμώντας σε αρκετές περιπτώσεις την παρέα των ψηφιακών φίλων από τους πραγματικούς.
• Καθώς οι ψηφιακοί «φίλοι» δεν μπορούν να καταλάβουν πότε ένας χρήστης βρίσκεται σε κρίση ψυχικής υγείας ή χρειάζεται πραγματική βοήθεια, μπορεί να προσφέρουν λάθος συμβουλές ή ενθαρρύνουν ακόμη και επικίνδυνες σκέψεις. Επειδή είναι σχεδιασμένα να συμφωνούν με τον χρήστη, μπορεί να γίνουν ιδιαίτερα επιβλαβή για άτομα με άγχος, κατάθλιψη ή άλλες δυσκολίες.
• Έρευνες δείχνουν ότι αρκετοί έφηβοι βασίζονται σε αυτά για σοβαρά θέματα, ενώ οι μικρότεροι έφηβοι είναι πιο πιθανό να εμπιστευτούν τις συμβουλές τους, κάτι που τους κάνει πιο ευάλωτους.
• Οι AI «φίλοι» μπορούν να παρέχουν επικίνδυνες πληροφορίες πολύ εύκολα, όπως οδηγίες για ουσίες ή επικίνδυνα αντικείμενα. Σε αντίθεση με το διαδίκτυο γενικά, δίνουν αυτές τις πληροφορίες με λιγότερες προειδοποιήσεις, κάτι που αυξάνει τον κίνδυνο στη χρήση τους, γιατί τα παιδιά μπορεί να εκτεθούν πιο άμεσα και εύκολα σε επιβλαβές περιεχόμενο.
• Παράλληλα, οι συγκεκριμένες εφαρμογές τεχνητής νοημοσύνης μπορούν να εκθέσουν τους εφήβους σε ακατάλληλο σεξουαλικό περιεχόμενο, συμμετέχοντας ενεργά σε συζητήσεις και περιγραφές που δεν ταιριάζουν στην ηλικία τους. Αυτό μπορεί να τους δημιουργήσει λανθασμένες αντιλήψεις για τις σχέσεις και τη συναίνεση. Ακόμη πιο ανησυχητικό είναι ότι, σε ορισμένες περιπτώσεις, μπορεί να εμπλακούν και σε παράνομο σεξουαλικό περιεχόμενο, ακόμη και με ελάχιστη “πίεση” από τον χρήστη, κάτι που τα καθιστά ιδιαίτερα επικίνδυνα.
• Τέλος, μπορεί να ενθαρρύνουν την επιθετική ή κακοποιητική συμπεριφορά, όπως τον εκφοβισμό άλλων στο διαδίκτυο. Σε δοκιμές, πρότειναν ακόμη και τρόπους «εκδίκησης», ενισχύοντας την ιδέα να στραφούν άλλοι εναντίον ενός ατόμου. Επειδή δεν έχουν ευθύνη για τις συνέπειες, μπορεί να επιβεβαιώσουν και να ενισχύσουν συμπεριφορές που πληγώνουν σοβαρά άλλους ανθρώπους.

Συμπέρασμα για γονείς:

Τα ερευνητικά δεδομένα δείχνουν ότι τα social AI companions ενέχουν απαράδεκτα υψηλό κίνδυνο για τους εφήβους και χρειάζεται άμεση καθοδήγηση και προστασία από γονείς και ειδικούς. Το γεγονός ότι σχεδόν οι περισσότεροι έφηβοι τα χρησιμοποιούν ήδη, κάνει τους κινδύνους ακόμη πιο σοβαρούς. Εξίσου ανησυχητικό είναι ότι πολλοί έφηβοι τα χρησιμοποιούν με τρόπους που μπορεί να τους βλάψουν, όπως το να μοιράζονται προσωπικά στοιχεία ή να τα προτιμούν αντί για πραγματικούς ανθρώπους, γεγονός που δείχνει ότι πρόκειται για πραγματικό και άμεσο πρόβλημα.

Πηγή: 

Social AI Companions – common sense media