Η ομάδα του MIT διδάσκει στα μοντέλα AI όσα δεν ήξεραν ακόμα.
Η εφαρμογή της τεχνητής νοημοσύνης (AI) αναπτύσσεται ραγδαία και γίνεται όλο και πιο ενσωματωμένη στην καθημερινή μας ζωή και σε κρίσιμους κλάδους όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Αλλά με μεγάλη δύναμη έρχεται και μεγάλη ευθύνη: τα συστήματα AI μερικές φορές κάνουν λάθη ή δίνουν αβέβαιες απαντήσεις που μπορούν να έχουν σημαντικές συνέπειες.
Το Themis AI του MIT, που συνέστησε και ηγείται εν μέρει η καθηγήτρια Daniela Rus από το εργαστήριο CSAIL, προσφέρει μια πρωτοποριακή λύση. Η τεχνολογία τους επιτρέπει στα μοντέλα AI να «γνωρίζουν όσα δεν γνωρίζουν». Αυτό σημαίνει ότι τα συστήματα AI μπορούν να υποδεικνύουν πότε είναι αβέβαια για τις προβλέψεις τους, αποτρέποντας λάθη πριν προκαλέσουν βλάβη.
Γιατί είναι τόσο σημαντικό αυτό;
Πολλά μοντέλα AI, ακόμη και τα προηγμένα, μπορούν μερικές φορές να εμφανίσουν τις λεγόμενες «παραισθήσεις» — παρέχουν λανθασμένες ή αβάσιμες απαντήσεις. Σε τομείς όπου οι αποφάσεις έχουν μεγάλο βάρος, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστροφικές συνέπειες. Η Themis AI ανέπτυξε την Capsa, μια πλατφόρμα που εφαρμόζει ποσοτικοποίηση αβεβαιότητας: μετρά και ποσοτικοποιεί την αβεβαιότητα στην έξοδο της AI με λεπτομερή και αξιόπιστο τρόπο.
Πώς λειτουργεί;
Διδάσκοντας στα μοντέλα awareness της αβεβαιότητας, μπορούν να παρέχουν έξοδους με ετικέτα κινδύνου ή αξιοπιστίας. Για παράδειγμα: ένα αυτόνομο όχημα μπορεί να δείξει ότι δεν είναι σίγουρο για μια κατάσταση και να ενεργοποιήσει ανθρώπινη παρέμβαση. Αυτό αυξάνει όχι μόνο την ασφάλεια αλλά και την εμπιστοσύνη των χρηστών στα συστήματα AI.
- Κατά την ενσωμάτωση με το PyTorch, το wrapping του μοντέλου γίνεται μέσω
capsa_torch.wrapper()όπου η έξοδος αποτελείται τόσο από την πρόβλεψη όσο και από τον κίνδυνο:
Για την Fortis AI και τους πελάτες της, αυτή η τεχνολογία αποτελεί ένα τεράστιο βήμα προόδου. Μπορούμε να παραδώσουμε εφαρμογές AI που δεν είναι μόνο ευφυείς, αλλά και ασφαλείς και πιο προβλέψιμες, με μειωμένο κίνδυνο παραισθήσεων. Βοηθά τις οργανώσεις να λαμβάνουν καλύτερα τεκμηριωμένες αποφάσεις και να μειώνουν τους κινδύνους κατά την εισαγωγή της AI σε επιχειρησιακά κρίσιμες εφαρμογές.
Συμπέρασμα
Το MIT ομάδα δείχνει ότι το μέλλον της AI δεν αφορά μόνο το να γίνεται πιο έξυπνη, αλλά κυρίως το να λειτουργεί με πιο ασφαλή και δίκαιο τρόπο. Στην Fortis AI πιστεύουμε ότι η AI γίνεται πραγματικά πολύτιμη μόνο όταν είναι διαφανής ως προς τους δικούς της περιορισμούς. Με προηγμένα εργαλεία ποσοτικοποίησης αβεβαιότητας όπως το Capsa, μπορείτε να εφαρμόσετε αυτήν την αντίληψη και στην πράξη.
