Αποτελεί κοινή διαπίστωση ότι η ανάπτυξη της τεχνητής νοημοσύνης (AI) προϋποθέτει την χρήση μεγάλων συνόλων δεδομένων για την εκπαίδευση αλγορίθμων στη δημιουργία μοντέλων που χρησιμοποιούνται για έξυπνη λήψη αποφάσεων στα ερωτήματα που απαντώνται με την χρήση της. Κατά το μέρος όπου συχνά τα δεδομένα αυτά περιλαμβάνουν και προσωπικά δεδομένα, η νομοθεσία για την προστασία των προσωπικών δεδομένων μπορεί να θεωρηθεί ότι εμποδίζει την ταχεία ανάπτυξη των μοντέλων της τεχνητής νοημοσύνης. Υποστηρίζεται ότι χώρες, στις οποίες η προστασία των προσωπικών δεδομένων είναι πιο ήπια (ή και ανύπαρκτη) μπορεί να έχουν ένα ανταγωνιστικό πλεονέκτημα στην AI. Με αυτόν τον προβληματισμό είναι ενδιαφέρον να παρακολουθούμε τις εξελίξεις σε τέτοιες χώρες.

Η Διοίκηση Κυβερνοχώρου της Κίνας (Cyberspace Administration of China – CAC) δημοσίευσε πρόσφατα ένα σχέδιο κανονισμού σχετικά με τα «Μέτρα Διαχείρισης των Υπηρεσιών της AI». Σκοπός των εν λόγω μέτρων είναι η ρύθμιση και η ανάπτυξη των υπηρεσιών που κάνουν χρήση της τεχνητής νοημοσύνης (ΑΙ) στην Κίνα.

Το σχέδιο κανονισμού

Το σχέδιο κανονισμού αποτελείται από 21 άρθρα, τα οποία αφορούν τις ρυθμιστικές αρχές και συγκεκριμένες προϋποθέσεις σχετικά με τα προϊόντα και τις υπηρεσίες που περιέχουν ΑΙ. Τα μέτρα ορίζουν τις υπηρεσίες που κάνουν χρήση της AI, ως εκείνες που μπορούν ανεξάρτητα να δημιουργήσουν, να τροποποιήσουν ή να συνθέσουν κείμενο, ήχο, εικόνες ή βίντεο. Ωστόσο, η εφαρμογή του επίσημου κανονισμού ενδέχεται να επηρεάσει τον χρόνο διάθεσης των προϊόντων και υπηρεσιών με ΑΙ στην αγορά της  χώρας.

Συλλογή και Διατήρηση των δεδομένων

Ιδιαίτερη έμφαση έχει δοθεί στη συλλογή και διατήρηση των δεδομένων. Συγκεκριμένα, το σχέδιο κανονισμού ορίζει, ότι οι πάροχοι υπηρεσιών πρέπει να θεσπίσουν αυστηρούς μηχανισμούς συλλογής και διατήρησης των δεδομένων. Οπωσδήποτε, απαιτείται να λαμβάνουν τη συναίνεση του χρήστη, να προσδιορίζουν με σαφήνεια τον σκοπό της συλλογής δεδομένων και να διασφαλίζουν την ασφάλεια και την εμπιστευτικότητα των δεδομένων χρήστη. Ακόμη, τα μέτρα τονίζουν την ανάγκη να αποτραπεί η συλλογή και χρήση προσωπικών δεδομένων χωρίς την κατάλληλη εξουσιοδότηση.

Προϋποθέσεις για την παροχή υπηρεσιών και προϊόντων με ΑΙ

Το σχέδιο κανονισμού θέτει αυστηρά μέτρα για την αξιολόγηση της  ασφάλειας των δεδομένων, για την κυκλοφορία των προϊόντων και των υπηρεσιών με ΑΙ στην αγορά της Κίνας. Οι πάροχοι υπηρεσιών τεχνητής νοημοσύνης πρέπει να εφαρμόζουν ισχυρούς μηχανισμούς ελέγχου περιεχομένου για τον εντοπισμό και την πρόληψη ενδεχόμενων κινδύνων. Οι πάροχοι  υπηρεσιών είναι υπεύθυνοι για τη νομιμότητα των πηγών – δεδομένων των προϊόντων τους.

Σημαντικό ζήτημα αποτελεί η πιθανότητα διαρροής ψευδών πληροφοριών. Το περιεχόμενο που δημιουργείται από τα προϊόντα και τις  υπηρεσίες με AI, θα πρέπει να έχουν σαφήνεια, ακρίβεια και να λαμβάνονται κατάλληλα μέτρα πρόληψης. Επιπλέον, οι πάροχοι υπηρεσιών θα πρέπει να εφαρμόζουν συστήματα ταυτοποίησης του χρήστη για να διασφαλίζουν την αυθεντικότητα των λογαριασμών των χρηστών και να αποτρέπουν την κακή χρήση των υπηρεσιών τεχνητής νοημοσύνης.

Λογοδοσία και αναφορά παραβίασης

Οι πάροχοι πρέπει να δημιουργήσουν εσωτερικούς μηχανισμούς λογοδοσίας για την επίβλεψη της ανάπτυξης και της χρήσης των υπηρεσιών με ΑΙ. Οφείλουν  να αναφέρουν τυχόν σημαντικά περιστατικά, παραβιάσεις ασφαλείας ή άλλες σχετικές πληροφορίες στην CAC και να συνεργάζονται με τις ρυθμιστικές αρχές.

Εξαγωγές και Διεθνείς Συνεργασίες

Το νέο σχέδιο κανονισμού επισημαίνει τη σημασία της συμμόρφωσης με τους κανονισμούς ελέγχου των εξαγωγών σχετικά με την παροχή υπηρεσιών με ΑΙ. Οι πάροχοι αναμένεται να ακολουθούν τους σχετικούς νόμους και κανονισμούς όταν εξάγουν υπηρεσίες ή προϊόντα με ΑΙ.

Σύμφωνα με τις διακηρύξεις της η Κίνα υποστηρίζει τη διεθνή  συνεργασία και ενθαρρύνει τη χρήση ενός ασφαλούς και αξιόπιστου λογισμικού. Είναι απαραίτητο να διερευνηθούν τα μονοπάτια διεθνούς συνεργασίας,  ώστε να καταστεί παραγωγική η παροχή υπηρεσιών και προϊόντων με ΑΙ στη βιομηχανία της Κίνας.

Συμπερασματικά

Η εμφάνιση των υπηρεσιών και των προϊόντων με ΑΙ έχει δημιουργήσει σημαντικά ζητήματα, με αποτέλεσμα να πρέπει να λαμβάνονται τα απαραίτητα μέτρα από διάφορες ρυθμιστικές αρχές (π.χ. Κίνα και Ευρωπαϊκή Ένωση). Σύμφωνα με το ρυθμιστικό πλαίσιο που ακολουθούν, κύριο μέλημα είναι η προστασία, η συλλογή, η διατήρηση των δεδομένων των χρηστών, οι προϋποθέσεις, με τις οποίες θα παρέχονται οι υπηρεσίες και τα προϊόντα  με ΑΙ, η πρόληψη  κινδύνων, η διαφάνεια και η ακρίβεια των πληροφοριών καθώς και η ανάπτυξη διεθνών συνεργασιών.

 

Περισσότερα άρθρα μπορείτε να διαβάσετε στο BLOG της εταιρείας μας.

 

 

English version

New draft regulation and challenges in Chinese AIGC industry

 

The Cyberspace Administration of China (CAC) recently released a draft regulation of the “Measures for the Administration of Generative AI Services” for public comments. These measures aim to regulate the development and use of generative artificial intelligence (AI) services within China.

Generative Artificial Intelligence (AIGC) products have raised concerns about invasion of privacy and the possibility of false information leak, and the various ethical issues that are raised. Europe has already created a relevant framework, while China’s regulatory framework will be formed and implemented soon.

The new draft regulation

The draft regulation includes 21 articles, on the regulatory authorities and the specific requirements regarding AIGC products and services. The measures define AIGC services as those that can independently generate, modify, or synthesize text, audio, images, or videos using AI technology. However, it is expected that the time-to-market of domestic AIGC products and services will be impacted after the implementation of the official regulations.

Data Collection and Storage

According to the draft regulation, service providers must establish strict data collection and storage mechanisms. They are required to obtain user consent, clearly specify the purpose of data collection, and ensure the security and confidentiality of user data. The measures also emphasize the need to prevent the collection and use of personal data without proper authorization.

Conditions for the provision of AIGC services and products

The draft regulation strictly sets the data security assessment for the release of AIGC products and services in the Chinese market. AIGC service providers must implement robust content review mechanisms to identify and prevent risks. Providers are responsible for the legality of the data sources of their products.

An important issue is the possibility of false information leak. The content generated by AIGC products and services should be clear, accurate, and the appropriate preventative measures must be taken. In addition, service providers are required to implement user identity verification systems to ensure the authenticity of user accounts and prevent the misuse of generative AI services.

Accountability and Breach Reporting

Providers must establish internal accountability mechanisms to supervise the development, deployment, and use of generative AI services. They are also required to report any significant incidents, security breaches, or other relevant information to the CAC and cooperate with regulatory investigations.

Exports and International Partnerships

The draft measures highlight the importance of complying with export control regulations regarding AI technologies. Providers are expected to follow relevant laws and regulations when exporting generative AI services or technologies.

China supports international cooperation and encourages the use of safe and reliable software. It is necessary to explore paths of international cooperation in order to make the provision of AIGC services productive in China’s industry.

Conclusion

The emergence of AIGC services and products has created significant issues, as a result of which serious measures must be taken by various regulatory authorities (e.g., China and European Union). Consequently, the relevant regulatory frameworks concentrate to the protection, collection, retention of user data, the conditions under which AIGC services and products are provided, risk prevention, transparency, and accuracy of information as well as the development of international collaborations.