Της Τέτης Ηγουμενίδη
Στον τρόπο με τον οποίο οι ψηφιακές πλατφόρμες σχεδιάζουν και λειτουργούν τις υπηρεσίες τους για ανηλίκους παρεμβαίνει η πρόταση κανονισμού EU KIDS Act της Ευρωπαϊκής Επιτροπής, θέτοντας συγκεκριμένες υποχρεώσεις στους παρόχους.
Το σχέδιο καλύπτει κοινωνικά δίκτυα, πλατφόρμες διαμοιρασμού βίντεο, online games, app stores, συντρόφους τεχνητής νοημοσύνης (AI companions) και γενικά conversational chatbots. Οι απαιτήσεις αφορούν την επαλήθευση ηλικίας, τα συστήματα συστάσεων, τις προεπιλεγμένες ρυθμίσεις ασφαλείας, τις αγορές μέσα στις υπηρεσίες και τον έλεγχο της συμμόρφωσης.
Για κοινωνικά δίκτυα και πλατφόρμες βίντεο που διαθέτουν συγκεκριμένα χαρακτηριστικά κινδύνου, αυτόνομος λογαριασμός δεν θα επιτρέπεται πριν από τα 15 έτη. Στις ηλικίες 13 έως 15 ετών οι εταιρείες θα μπορούν να προσφέρουν περιορισμένη πρόσβαση μέσω λογαριασμού που δημιουργεί ο κηδεμόνας, με ενεργοποιημένα εργαλεία γονικού ελέγχου και ημερήσιο όριο χρήσης έως μία ώρα.
Έλεγχος θα γίνει και στους λογαριασμούς που υπάρχουν ήδη. Μέσα σε έξι μήνες από την εφαρμογή των σχετικών διατάξεων, οι πάροχοι θα πρέπει να εξακριβώσουν αν οι κάτοχοί τους είναι κάτω των 15 ετών. Αν διαπιστωθεί ότι ο χρήστης είναι μικρότερος ή αν η ηλικία του δεν μπορεί να εξακριβωθεί, ο λογαριασμός θα απενεργοποιείται. Νέος έλεγχος δεν απαιτείται όταν η εταιρεία μπορεί να τεκμηριώσει με υψηλό βαθμό βεβαιότητας ότι ο χρήστης έχει συμπληρώσει το απαιτούμενο όριο ηλικίας.
Για τα κοινωνικά δίκτυα και τις πλατφόρμες διαμοιρασμού βίντεο που έχουν χαρακτηριστεί πολύ μεγάλες επιγραμμικές πλατφόρμες (VLOPs) προβλέπεται πρόσθετη διαδικασία για τους υφιστάμενους λογαριασμούς. Θα πρέπει να υποβάλουν στην αρμόδια αρχή σχέδιο στο οποίο θα εξηγούν πώς θα πραγματοποιήσουν τους ηλικιακούς ελέγχους και, όταν δεν προχωρούν σε νέα επαλήθευση, με ποια στοιχεία τεκμηριώνουν ότι ο χρήστης έχει φθάσει στο απαιτούμενο όριο ηλικίας.
Για την ίδια κατηγορία υπηρεσιών, δηλαδή κοινωνικά δίκτυα και πλατφόρμες διαμοιρασμού βίντεο που έχουν χαρακτηριστεί VLOPs, προβλέπεται και αναλυτικό σχέδιο συμμόρφωσης προς την Ευρωπαϊκή Επιτροπή. Για όσες έχουν ήδη τον συγκεκριμένο χαρακτηρισμό, το σχέδιο θα πρέπει να υποβληθεί μέσα σε 30 ημέρες από την έναρξη εφαρμογής του κανονισμού. Για όσες χαρακτηριστούν VLOPs αργότερα, η προθεσμία είναι τέσσερις μήνες από τον χαρακτηρισμό τους.
Το σχέδιο θα περνά από ανεξάρτητο έλεγχο με δαπάνη της εταιρείας. Οι ελεγκτές θα έχουν πρόσβαση σε πληροφορίες, δεδομένα, έγγραφα και προσωπικό και θα πρέπει να διαθέτουν ή να χρησιμοποιούν ειδικούς σε τομείς όπως η προστασία των παιδιών, η παιδοψυχιατρική, η επαλήθευση ηλικίας, ο σχεδιασμός ψηφιακών διεπαφών και συστημάτων συστάσεων και η προστασία δεδομένων.
Αν η Επιτροπή διαπιστώσει ελλείψεις με βάση την τελική έκθεση, η εταιρεία θα έχει 30 ημέρες για να καταθέσει διορθωτικό σχέδιο. Η εφαρμογή κάθε μέτρου δεν θα μπορεί να ξεπερνά τις 60 ημέρες και ο ανεξάρτητος ελεγκτής θα ελέγχει στη συνέχεια αν οι διορθώσεις έγιναν. Η συμμόρφωση θα επανεξετάζεται κάθε χρόνο μαζί με τις αξιολογήσεις κινδύνου και τους ανεξάρτητους ελέγχους που προβλέπει το Digital Services Act.
Οι κανόνες ασφαλούς σχεδιασμού θα ισχύουν και όταν κάποιος βλέπει δημόσιο περιεχόμενο χωρίς να έχει κάνει εγγραφή ή login. Αν η ηλικία του δεν έχει εξακριβωθεί, η υπηρεσία θα διατηρεί ενεργές τις αυξημένες δικλείδες προστασίας και θα μπορεί να τις άρει μόνο αφού διαπιστώσει, μέσω age assurance, ότι ο χρήστης είναι ενήλικος. Η συγκεκριμένη αρχή καλύπτει τις υπηρεσίες που υπάγονται στο κεφάλαιο του safety by design, μεταξύ των οποίων κοινωνικά δίκτυα, πλατφόρμες βίντεο, online games, app stores, AI companions και conversational chatbots.
Στα κοινωνικά δίκτυα και στις πλατφόρμες διαμοιρασμού βίντεο αλλάζει και ο τρόπος λειτουργίας των συστημάτων συστάσεων. Μεγαλύτερο βάρος θα πρέπει να δίνεται στις επιλογές που δηλώνει ο ίδιος ο ανήλικος και όχι στα στοιχεία που προκύπτουν έμμεσα από τη συμπεριφορά του στην πλατφόρμα. Οι προτάσεις που βασίζονται σε αυτά τα δεδομένα θα είναι απενεργοποιημένες εξ ορισμού, ενώ δεν θα επιτρέπεται να χρησιμοποιούνται προσωπικά δεδομένα του παιδιού που έχουν συλλεχθεί εκτός της συγκεκριμένης υπηρεσίας. Θα πρέπει επίσης να υπάρχει τουλάχιστον μία επιλογή συστάσεων χωρίς κατάρτιση προφίλ.
Στις ίδιες υπηρεσίες, από προεπιλογή θα είναι κλειστά ο γεωεντοπισμός και άλλες λειτουργίες παρακολούθησης, η πρόσβαση σε μικρόφωνο και κάμερα, οι προτάσεις άλλων λογαριασμών, ο συγχρονισμός επαφών και οι ειδοποιήσεις. Περιορισμοί τίθενται και στην επικοινωνία με αγνώστους, ενώ οι ζωντανές μεταδόσεις θα είναι απενεργοποιημένες εξ ορισμού.
Κανόνες τίθενται και για τις συναλλαγές μέσα στις πλατφόρμες. Ο ανήλικος θα πρέπει να ενημερώνεται καθαρά πριν από την αγορά ότι πρόκειται για οικονομική συναλλαγή. Όταν χρησιμοποιείται εικονικό νόμισμα, θα εμφανίζεται και η αντίστοιχη χρηματική αξία. Οι υπηρεσίες δεν θα μπορούν να σχεδιάζονται με τρόπο που οδηγεί σε υπερβολικές, παρορμητικές ή ανεπιθύμητες δαπάνες. Στις αιτιολογικές σκέψεις γίνεται ειδική αναφορά στα loot boxes και σε προϊόντα με τυχαία ή χαρακτηριστικά που παραπέμπουν σε τυχερά παιχνίδια.
Στα app stores θα καθιερωθεί ηλικιακή κατάταξη για κάθε εφαρμογή. Αν μια εφαρμογή δεν θεωρείται κατάλληλη για την ηλικία του χρήστη, το κατάστημα δεν θα μπορεί να επιτρέπει την πρόσβαση ή την αγορά της. Οι πάροχοι των app stores θα δημοσιοποιούν επίσης τη μεθοδολογία, τα κριτήρια και τις πηγές στις οποίες βασίζεται η κατάταξη.
Για τους AI companions και τα γενικά conversational chatbots τίθενται ξεχωριστές υποχρεώσεις. Οι εταιρείες θα πρέπει να αποφεύγουν λειτουργίες και συμπεριφορές του συστήματος που προσομοιώνουν διαπροσωπικές σχέσεις και είναι πιθανό να δημιουργήσουν συναισθηματική εξάρτηση στους ανηλίκους. Η αξιοποίηση πληροφοριών από προηγούμενες συνομιλίες του παιδιού σε επόμενες αλληλεπιδράσεις θα είναι απενεργοποιημένη εξ ορισμού, με συγκεκριμένες εξαιρέσεις για λόγους ασφάλειας και εφαρμογής των ρυθμίσεων.
Πριν από τη διάθεση τέτοιων συστημάτων απαιτούνται αξιολόγηση και δοκιμές για τους κινδύνους που μπορεί να δημιουργηθούν για τους ανηλίκους. Προβλέπεται επίσης παρακολούθηση μετά τη διάθεση για νέους κινδύνους και σοβαρά περιστατικά, με εξαίρεση τις πολύ μικρές και μικρές επιχειρήσεις από την τελευταία αυτή υποχρέωση.
Αν ένα AI companion ή chatbot αποτελεί λειτουργία κοινωνικού δικτύου, πλατφόρμας βίντεο ή online game, δεν θα ενεργοποιείται αυτόματα ούτε θα τοποθετείται σε εμφανές σημείο που ενθαρρύνει τον ανήλικο να το χρησιμοποιήσει. Ο ανήλικος θα μπορεί επίσης να διακόπτει εύκολα τη χρήση του οποιαδήποτε στιγμή.
Για κοινωνικά δίκτυα, πλατφόρμες διαμοιρασμού βίντεο, video-gaming platforms και app stores, η εποπτεία και η επιβολή των κανόνων θα ακολουθούν το πλαίσιο του Digital Services Act. Για AI companions και γενικά conversational chatbots θα εφαρμόζεται το πλαίσιο του AI Act.
Στη δεύτερη περίπτωση, η μη συμμόρφωση μπορεί να οδηγήσει σε διοικητικό πρόστιμο έως 6% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης κατά το προηγούμενο οικονομικό έτος, εφόσον η παράβαση είναι εκ προθέσεως ή οφείλεται σε αμέλεια.
Για τους παρόχους που εμπίπτουν στην άμεση εποπτική αρμοδιότητα της Επιτροπής βάσει του σχεδίου προβλέπεται και ετήσιο εποπτικό τέλος. Σε αυτό το πεδίο περιλαμβάνονται συγκεκριμένες VLOPs που παρέχουν ή ενσωματώνουν κοινωνικά δίκτυα, πλατφόρμες βίντεο ή app stores, καθώς και πάροχοι AI companions, conversational chatbots και video-gaming platforms όταν η Επιτροπή έχει την αρμοδιότητα εποπτείας τους. Το τέλος δεν θα μπορεί να υπερβαίνει το 0,03% του παγκόσμιου ετήσιου καθαρού εισοδήματος του προηγούμενου οικονομικού έτους.
Το EU KIDS Act είναι πρόταση κανονισμού. Το κείμενο θα εξεταστεί από το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο πριν διαμορφωθεί η τελική νομοθεσία.
