Το λογισμικό είναι πανταχού παρόν, τροφοδοτώντας σχεδόν κάθε πτυχή της ζωής μας. Τα ηλεκτρονικά συστήματα στο αυτοκίνητό σας μόνο ενσωματώνουν δεκάδες εκατομμύρια γραμμές κώδικα. Ο αυξανόμενος ψηφιακός μετασχηματισμός της κοινωνίας μας σημαίνει ότι η ζήτηση για περισσότερο και καλύτερο λογισμικό είναι πιθανό να συνεχιστεί και στο μέλλον.

Το δίλημμα είναι ότι δεν υπάρχουν αρκετοί ανθρώπινοι προγραμματιστές για να χτίσουν όλα αυτό το Λογισμικό. Αυτό σημαίνει ότι όλο και περισσότερο το λογισμικό που χρησιμοποιείτε κάθε μέρα είναι κατασκευασμένο με τη βοήθεια της τεχνητής νοημοσύνης (AI).

Οι προγραμματιστές λογισμικού είναι ήδη πολύ εξοικειωμένοι με εργαλεία όπως το GitHub Copilot, ένα είδος ChatGPT για προγραμματιστές. Λειτουργεί κάτι σαν ένα έξυπνο αυτόματο εργαλείο για να αυξήσει την παραγωγικότητα των ανθρώπινων προγραμματιστών.

Αλλά τώρα γινόμαστε μάρτυρες μιας πιο ριζοσπαστικής επανάστασης, όπου οι «εκπρόσωποι» της τεχνητής νοημοσύνης είναι έτοιμοι να εκτελέσουν πολλούς τύπους αναπτυξιακών καθηκόντων για λογαριασμό των ανθρώπινων προγραμματιστών. Οι εκπρόσωποι είναι προγράμματα που χρησιμοποιούν AI για την εκτέλεση εργασιών και την επίτευξη συγκεκριμένων στόχων για έναν ανθρώπινο χρήστη. Οι εκπρόσωποι τεχνητής νοημοσύνης μπορούν να μάθουν και να λαμβάνουν αποφάσεις με κάποιο επίπεδο αυτονομίας, αν και εξακολουθούν να βρίσκονται υπό ανθρώπινη επίβλεψη - προς το παρόν.

Προβλέπουμε ότι σε ένα εγγύς μέλλον, πολλές εφαρμογές λογισμικού θα κατασκευαστούν εξ ολοκλήρου από εκπρόσωπους τεχνητής νοημοσύνης. Τα «αξιοτικά» συστήματα είναι κοινότητες πρακτόρων τεχνητής νοημοσύνης που συνεργάζονται μαζί, καθένα από τα οποία ειδικεύεται στην επίλυση ενός συγκεκριμένου τύπου εργασίας. Με ένα αντιπροσωπευτικό σύστημα, μπορείτε να δημιουργήστε μια εφαρμογή λογισμικού από μια απλή αγγλική περιγραφή του τι θα θέλατε να κάνει η εφαρμογή.

Αυτό έχει πιθανές θετικές επιπτώσεις. Τα αντιπροπευτικά συστήματα θα μπορούσαν να ενδυναμώσουν τους χρήστες χωρίς δεξιότητες προγραμματισμού λογισμικού για την οικοδόμηση ή την προσαρμογή του λογισμικού στις ανάγκες τους. Υπάρχουν επίσης πιθανές αρνητικές συνέπειες. Οι εκπρόσωποι απέχουν πολύ από το τέλειο και μπορούν εύκολα να δημιουργήσουν κώδικα που είναι ευάλωτος σε επιθέσεις, δεν είναι αποτελεσματικός ή είναι προκατειλημμένος ενάντια σε ορισμένες κοινότητες.

Για παράδειγμα, ένας εκπρόσωπος που κατασκευάζει λογισμικό πρόσληψης θα μπορούσε να ευνοήσει τους άνδρες έναντι των γυναικών υποψηφίων λόγω των προκαταλήψεων στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση ή τη βελτίωση του λογισμικού. Ως εκ τούτου, πρέπει να θέσουμε σε εφαρμογή μηχανισμούς για την ελαχιστοποίηση αυτών των κινδύνων, όπως απαιτείται από τους κανονισμούς της τεχνητής νοημοσύνης, όπως ο νόμος της ΕΕ για την τεχνητή νοημοσύνη.

Οι ερευνητές αντιμετωπίζουν αυτή την πρόκληση πρώτα δοκιμάζοντας εντατικά τα LLM (Μεγάλα Γλωσσικά Μοντέλα) που βρίσκονται στον πυρήνα οποιουδήποτε παράγοντα. Ένα LLM είναι ένα σύστημα τεχνητής νοημοσύνης εκπαιδευμένο σε τεράστιες ποσότητες δεδομένων. Οι εκπρόσωποι βασίζονται στο εσωτερικό τους LLM για να προβλέψουν και να δημιουργήσουν την καλύτερη απάντηση σε ένα αίτημα χρήστη.

Αξιολογώντας όλα τα μεγάλα LLM έναντι μιας σειράς ανησυχιών όπως η ακρίβεια, τα τρωτά σημεία ασφαλείας και οι προκαταλήψεις, οι προγραμματιστές λογισμικού μπορούν να επιλέξουν το καλύτερο LLM για έναν εκπρόσωπο τεχνητής νοημοσύνης. Αυτό θα εξαρτηθεί από τα συγκεκριμένα καθήκοντα στα οποία θα συμμετείχε ο εκπρόσωπος.

Αυτό βοηθά στη διασφάλιση μιας ορισμένης ηθικής συμπεριφοράς στους εκπρόσωπους. Αλλά πώς μπορούμε να είμαστε σίγουροι ότι καταλαβαίνουν και ακολουθούν τις οδηγίες μας; Η λύση μας είναι να ξεκινήσουμε από τα σχεδιαγράμματα (τα σχέδια) του λογισμικού που θα κατασκευαστούν.

Σε γενικές γραμμές, είναι δυνατόν να κατανοήσετε τα σχεδιαγράμματα ενός σπιτιού, ακόμη και αν δεν είστε αρχιτέκτονας. Ομοίως, εάν κάνουμε ένα σχεδιάγραμμα για το λογισμικό όσο το δυνατόν πιο εύκολο να κατανοηθεί, οι χρήστες χωρίς προηγμένες δεξιότητες ανάπτυξης λογισμικού θα πρέπει να είναι σε θέση να κατανοήσουν τις έννοιες και πώς να κάνουν αλλαγές σε αυτό.

Από την αρχική περιγραφή του χρήστη, ο εκπρόσωπος ή οι εκπρόσωποι τεχνητής νοημοσύνης θα πρότειναν ένα λεπτομερές σχέδιο μιας πιθανής λύσης και θα το εξηγούσε στον χρήστη σε απλά αγγλικά. Ο χρήστης θα μπορούσε στη συνέχεια να το επικυρώσει ή να ζητήσει βελτιώσεις. Μόνο μετά την τελική επικύρωση θα αναδυόταν αυτόματα η εφαρμογή λογισμικού από το σχέδιο.

Αυτός ο τρόπος κατασκευής του λογισμικού είναι γνωστός ως ανάπτυξη χαμηλού κώδικα ή μη κώδικα, καθώς το μεγαλύτερο μέρος του κώδικα (όλα αυτά για ορισμένες εφαρμογές) παράγεται από τον υπολογιστή από τα σχεδιαγράμματα, αντί να είναι στο χέρι γραμμένος από έναν άνθρωπο από το μηδέν. Η πλατφόρμα BESSER ανοιχτού κώδικα σας βοηθά να δημιουργήσετε εφαρμογές με αυτόν τον τρόπο.

Όπως παρατήρησε κάποτε ο συγγραφέας επιστημονικής φαντασίας Arthur C Clarke: «Οποιαδήποτε επαρκώς προηγμένη τεχνολογία είναι δυσδιάκριτη από τη μαγεία». Και σύντομα, αυτή η μαγεία θα είναι μέρος της καθημερινής μας ζωής. Απλά πρέπει να είμαστε προσεκτικοί ώστε η μαγεία να μην μετατραπεί σε μαγεία με τη δυνατότητα να διαταράξουμε, αντί να βελτιωθούμε.

Εμείς, και πολλοί άλλοι ερευνητές, εργαζόμαστε για να θέσουμε τα προστατευτικά κιγκλιδώματα (μηχανισμούς για την πρόληψη πιθανών βλαβών) στη συμπεριφορά των εκπροσώπων τεχνητής νοημοσύνης για να τους κρατήσουμε υπό έλεγχο. Αυτό θα βοηθούσε να μετατραπεί κάθε πολίτης σε ικανό προγραμματιστή με τη δύναμη να οικοδομήσει αυτόνομα τις ιδανικές λύσεις λογισμικού για τις εταιρείες του ή άλλες πτυχές της ζωής του.