Η ομάδα του MIT διδάσκει στα μοντέλα τεχνητής νοημοσύνης όσα δεν γνώριζαν ακόμη.
Η εφαρμογή της τεχνητής νοημοσύνης (AI) αναπτύσσεται արագά και ενσωματώνεται ολοένα περισσότερο στην καθημερινή μας ζωή και σε βιομηχανίες υψηλού κινδύνου, όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Όμως, μαζί με τη μεγάλη ισχύ έρχεται και μεγάλη ευθύνη: τα συστήματα AI κάνουν μερικές φορές λάθη ή δίνουν αβέβαιες απαντήσεις, οι οποίες μπορεί να έχουν σοβαρές συνέπειες.
Γιατί είναι τόσο σημαντικό αυτό;
Πολλά μοντέλα AI, ακόμη και τα πιο προηγμένα, μπορεί να εμφανίσουν所谓ες «παραισθήσεις» — να δώσουν δηλαδή λανθασμένες ή ατεκμηρίωτες απαντήσεις. Σε τομείς όπου οι αποφάσεις έχουν βαρύνουσα σημασία, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστροφικές συνέπειες. Η Themis AI ανέπτυξε το Capsa, μια πλατφόρμα που εφαρμόζει ποσοτικοποίηση της αβεβαιότητας: μετρά και ποσοτικοποιεί την αβεβαιότητα των αποτελεσμάτων AI με λεπτομερή και αξιόπιστο τρόπο.
Πώς λειτουργεί;
Διδάσκοντας στα μοντέλα να έχουν επίγνωση της αβεβαιότητας, μπορούμε να προσθέσουμε στις εξόδους τους μια ένδειξη κινδύνου ή αξιοπιστίας. Για παράδειγμα, ένα αυτοοδηγούμενο αυτοκίνητο μπορεί να δηλώσει ότι δεν είναι βέβαιο για μια κατάσταση και, ως εκ τούτου, να ενεργοποιήσει ανθρώπινη παρέμβαση. Αυτό αυξάνει όχι μόνο την ασφάλεια, αλλά και την εμπιστοσύνη των χρηστών στα συστήματα AI.
- Κατά την ενσωμάτωση με το PyTorch, η περιτύλιξη του μοντέλου γίνεται μέσω
capsa_torch.wrapper()όπου η έξοδος αποτελείται τόσο από την πρόβλεψη όσο και από τον κίνδυνο:
Για τη Fortis AI και τους πελάτες της, αυτή η τεχνολογία αποτελεί ένα τεράστιο βήμα προόδου. Μπορούμε να παρέχουμε εφαρμογές AI που δεν είναι μόνο ευφυείς, αλλά και ασφαλείς και πιο προβλέψιμες, με μικρότερη πιθανότητα εμφάνισης παραισθήσεων. Βοηθά τους οργανισμούς να λαμβάνουν καλύτερα τεκμηριωμένες αποφάσεις και να μειώνουν τους κινδύνους κατά την εισαγωγή της AI σε κρίσιμες για τη λειτουργία του οργανισμού εφαρμογές.
Συμπέρασμα
Το MIT ομάδα δείχνει ότι το μέλλον της AI δεν αφορά μόνο το να γίνεται πιο έξυπνη, αλλά κυρίως το να λειτουργεί με μεγαλύτερη ασφάλεια και δικαιοσύνη. Στη Fortis AI πιστεύουμε ότι η AI αποκτά πραγματική αξία μόνο όταν είναι διαφανής ως προς τους δικούς της περιορισμούς. Με προηγμένα εργαλεία ποσοτικοποίησης της αβεβαιότητας, όπως το Capsa, μπορείτε να εφαρμόσετε και στην πράξη αυτό το όραμα.
