Ηγέτες σκέψης
Ναι, η Πράξη της ΕΕ για την ΤΝ καλύπτει την πρακτορική τεχνητή νοημοσύνη — να πώς

Βασικά σημείαΗ πρακτορική τεχνητή νοημοσύνη εμπίπτει ήδη στον Κανονισμό για την Τεχνητή Νοημοσύνη…
Δείτε περισσότερα
- Η πρακτορική τεχνητή νοημοσύνη εμπίπτει ήδη στον Κανονισμό για την Τεχνητή Νοημοσύνη της ΕΕ, διότι πληροί τον ορισμό του συστήματος τεχνητής νοημοσύνης.
- Ο Κανονισμός για την Τεχνητή Νοημοσύνη ρυθμίζει τι κάνει η τεχνολογία και τους κινδύνους που δημιουργεί, αντί να κατονομάζει συγκεκριμένες τεχνολογίες.
- Οι τεχνολογικοί κολοσσοί που ασκούν πιέσεις κατά του Κανονισμού για την Τεχνητή Νοημοσύνη προωθούν την αυτορρύθμιση, η οποία ισοδυναμεί με ρυθμιστική αιχμαλωσία.
Είναι πλέον διαδεδομένη η άποψη ότι η πρακτορική τεχνητή νοημοσύνη και οι πράκτορες ΤΝ βρίσκονται σε κάποιο κανονιστικό κενό — ότι η Πράξη της ΕΕ για την ΤΝ δεν είναι κατάλληλη για τη ρύθμισή τους. Έχουμε διαβάσει αυτή την άποψη σε έγκριτα νορβηγικά μέσα ενημέρωσης (Morgenbladet και Dagensnæringsliv) και την έχουμε δει να επαναλαμβάνεται από κορυφαίους ακαδημαϊκούς (University of Oslo). Εντοπίζουμε δύο θεμελιώδη σφάλματα σε αυτούς τους ισχυρισμούς… και θεωρούμε ότι βασίζονται σε φόβους, όχι σε γεγονότα.
Πρώτον, η πρακτορική τεχνητή νοημοσύνη ρυθμίζεται από την Πράξη της ΕΕ για την ΤΝ.
Δεύτερον, τέτοιοι ισχυρισμοί υπονομεύουν τους ισχύοντες κανονισμούς. Ενισχύουν την αντίληψη ότι οι εταιρείες ΤΝ είναι σε καλύτερη θέση να διαχειριστούν τους κινδύνους που συνδέονται με τα δικά τους συστήματα — ένα σύνηθες επιχείρημα που οδηγεί σε κανονιστική αιχμαλωσία.
Ασχολούμαστε στενά με την Πράξη για την ΤΝ, ως διορισμένα μέλη της εθνικής επιτροπής ΤΝ της Standards Norway. Συμμετέχουμε επίσης στις ευρωπαϊκές επιτροπές που καταρτίζουν εναρμονισμένα πρότυπα για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου· τα πρότυπα αυτά βοηθούν τις εταιρείες να ανταποκρίνονται στις νομικές απαιτήσεις της Πράξης για την ΤΝ.
Η πρακτορική τεχνητή νοημοσύνη ρυθμίζεται με διάφορους τρόπους από την Πράξη της ΕΕ για την ΤΝ
Η Ευρωπαϊκή Επιτροπή έχει δημοσιεύσει αρκετές συχνές ερωτήσεις, γραμμένες σε απλή και κατανοητή γλώσσα, σχετικά με τους «πράκτορες» και την «πρακτορική τεχνητή νοημοσύνη», και έχει διευκρινίσει ότι εμπίπτουν στο πεδίο εφαρμογής του κανονισμού, απλούστατα επειδή πληρούν τον ευρύτερο ορισμό του συστήματος ΤΝ (Πώς αντιμετωπίζονται οι πράκτορες ΤΝ στο πλαίσιο της Πράξης για την ΤΝ; | Γραφείο υποστήριξης της Πράξης για την ΤΝ). Ακολουθούν μερικά ακόμη παραδείγματα:
- Η πρακτορική τεχνητή νοημοσύνη βασίζεται συχνά σε μεγάλα γλωσσικά μοντέλα, τα οποία ρυθμίζονται ως μοντέλα ΤΝ γενικού σκοπού.
- Όταν ένα σύστημα πρακτορικής τεχνητής νοημοσύνης αλληλεπιδρά με ανθρώπους, ενεργοποιούνται και οι απαιτήσεις διαφάνειας του κανονισμού.
- Αν ένα μοντέλο ΤΝ ταξινομηθεί ως μοντέλο που ενέχει συστημικό κίνδυνο, επιβάλλονται πρόσθετες απαιτήσεις στον πάροχο. Μεταξύ άλλων, οι απαιτήσεις αυτές περιλαμβάνουν αξιολογήσεις των δυνατοτήτων του μοντέλου — συμπεριλαμβανομένων των αυτόνομων και πρακτορικών χαρακτηριστικών του.
Η Πράξη για την ΤΝ δεν αναφέρει τη λέξη «πράκτορας», επειδή δεν ρυθμίζει συγκεκριμένους τύπους τεχνολογίας. Αντίθετα, ρυθμίζει τον σκοπό για τον οποίο έχει σχεδιαστεί η τεχνολογία και τους κινδύνους που συνδέονται με τις λειτουργίες της.
Η Πράξη για την ΤΝ αποσκοπεί στην προστασία των θεμελιωδών δικαιωμάτων μας
Πολλές από τις επικρίσεις κατά της Πράξης για την ΤΝ από όσους ζητούν περισσότερη ρύθμιση αφορούν τη δομική αδυναμία πλήρους εξάλειψης των κινδύνων. Ωστόσο, θα ήταν αδύνατο ένα διεθνές κανονιστικό πλαίσιο να προβλέψει κάθε μελλοντικό κίνδυνο.
Αντίθετα, η Πράξη για την ΤΝ εστιάζει στους κινδύνους που ενέχουν τα συστήματα ΤΝ και οι οποίοι θα μπορούσαν να επηρεάσουν την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα — κάτι που αναφέρεται ήδη στην πρώτη πρόταση του πρώτου άρθρου.

Στιγμιότυπο οθόνης από το EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex
Εξίσου κρίσιμο είναι και αυτό που δεν τονίσαμε στην πρώτη αυτή πρόταση: η Πράξη για την ΤΝ είναι προσανατολισμένη στην αγορά. Αποσκοπεί στην ενθάρρυνση της χρήσης της ΤΝ. Στηρίζει την καινοτομία. Με άλλα λόγια, η Πράξη για την ΤΝ είναι υπέρ της ΤΝ. Στο πλαίσιο αυτό, ρυθμίζονται ορισμένες εφαρμογές και τομείς.
Ορισμένοι τομείς έχουν εκ των προτέρων ταξινομηθεί ως υψηλού κινδύνου
Μερικά παραδείγματα είναι τα συστήματα ΤΝ που χρησιμοποιούνται σε:
- προσλήψεις
- κατανομή βασικών υπηρεσιών
- ιατροτεχνολογικά προϊόντα
- συστήματα ενσωματωμένα σε κρίσιμες υποδομές, όπου η ασφάλεια είναι υψίστης σημασίας.
Οι πάροχοι συστημάτων ΤΝ —είτε πρόκειται για συστήματα πρακτορικής ΤΝ είτε όχι— που θα μπορούσαν να επηρεάσουν τα δικαιώματά μας υποχρεούνται να θεσπίζουν ολοκληρωμένα συστήματα διαχείρισης κινδύνων, τα οποία περιλαμβάνουν αξιολόγηση του τρόπου με τον οποίο οι χρήστες ενδέχεται να κάνουν κακή χρήση του συστήματος ΤΝ.
Κανονιστική αιχμαλωσία: όταν οι πάροχοι προτείνουν αυτορρύθμιση
Αν ακούσουμε την Anthropic, την OpenAI και τη Meta, καθώς και ορισμένες φωνές στον νορβηγικό δημόσιο διάλογο, μπορεί να σχηματίσουμε την εντύπωση ότι η ΤΝ και η πρακτορική ΤΝ είναι υπερβολικά σύνθετες για να υπαχθούν στην Πράξη για την ΤΝ. Υπερβολικά προηγμένες για την ΕΕ. Υπερβολικά επικίνδυνες για να ρυθμιστούν από οποιονδήποτε άλλον εκτός από τις ίδιες τις εταιρείες.
Πρέπει να είμαστε επιφυλακτικοί όταν οι ισχυρότερες τεχνολογικές εταιρείες του κόσμου —που άσκησαν έντονες πιέσεις για λιγότερο αυστηρή εφαρμογή της Πράξης για την ΤΝ— υποστηρίζουν τώρα ότι ο κανονισμός δεν επαρκεί για τη ρύθμιση των ισχυρότερων συστημάτων τους. Η λύση που προτείνουν είναι να «ρυθμίσουν» οι ίδιες τον εαυτό τους.
Πρόκειται για έναν κλασικό μηχανισμό κανονιστικής αιχμαλωσίας: μια διαδικασία κατά την οποία οι νόμοι και οι κανονισμοί διαμορφώνονται σταδιακά από τις ίδιες τις οντότητες που προορίζονται να διέπουν, προς όφελός τους.
Οι Ηνωμένες Πολιτείες προσφέρουν ένα χαρακτηριστικό παράδειγμα (Εγκαινιάζοντας την εποχή της υπερνοημοσύνης – ο Λευκός Οίκος). Το Σύμφωνο του Λευκού Οίκου για την Υπερνοημοσύνη είναι μια «εθελοντική συμφωνία» με επικεφαλής των X, Meta, Anthropic, OpenAI και Google, στο πλαίσιο της οποίας οι εταιρείες αυτές δεσμεύονται να αυτορρυθμιστούν. Το έγγραφο σημειώνει ότι οι νόμοι ενδέχεται να ενδείκνυνται κάποια υποθετική στιγμή στο μέλλον: «Με την πάροδο του χρόνου, ενδέχεται να έχει νόημα να κατοχυρωθούν αυτά τα μέτρα σε νόμους ή κανονισμούς.» Με την πάροδο του χρόνου. Ίσως. Ίσως είναι λογικό να εξεταστεί το ενδεχόμενο θέσπισης κανονισμών.
Προς το παρόν, ωστόσο, αναμένεται από τους Αμερικανούς να εμπιστεύονται ότι αυτές οι μεγάλες εταιρείες τεχνολογίας θα αυτορυθμίζονται.
Σε αντίθεση με τις Ηνωμένες Πολιτείες, η Ευρώπη έχει δεσμευτικό νόμο: τον AI Act.
Κι όμως, ο κίνδυνος της ρυθμιστικής αιχμαλωσίας παραμένει, μεταξύ άλλων μέσω της υπονόμευσης της εμπιστοσύνης σε αυτόν τον νόμο. Αν οι τεχνολογικοί κολοσσοί καταφέρουν να πείσουν τον κόσμο ότι ο AI Act δεν είναι αρκετά καλός, δεν θα στηρίζουμε πλέον την εφαρμογή του. Οι ισχυρισμοί ότι η πρακτορική ΤΝ είναι απλώς υπερβολικά προηγμένη/έξυπνη/επικίνδυνη για να μπορέσει να την αντιμετωπίσει ο AI Act αποδυναμώνουν τη στήριξή μας στη ρύθμιση.
Όταν εδραιωθεί η ρυθμιστική αιχμαλωσία, είναι δύσκολο να ανατραπεί.
Συμμεριζόμαστε την ανησυχία ότι ορισμένα συστήματα ΤΝ ενδέχεται να οδηγήσουν σε συνέπειες που είναι δύσκολο να προβλεφθούν. Ακριβώς γι’ αυτόν τον λόγο χρειαζόμαστε διαδικασίες διαχείρισης κινδύνων — όπως απαιτεί και ο AI Act. (Ο Δρ. Muller συμμετέχει στην επιτροπή που σχεδόν ολοκλήρωσε την εκπόνηση του εναρμονισμένου προτύπου για τη διαχείριση κινδύνων, 18228.)
Ο AI Act της ΕΕ δεν είναι τέλειος και πιθανότατα θα χρειαστεί περαιτέρω ανάπτυξη. Ωστόσο, η παρουσίαση της πρακτορικής ΤΝ ως πεδίου εκτός του πεδίου εφαρμογής του AI Act της ΕΕ ενισχύει μόνο την αβεβαιότητα, όχι την ασφάλεια.













