Υπερέξυπνα συστήματα ήδη δημιουργούνται και διαδίδονται σε όλο τον κόσμο λόγω της τεχνολογικής κούρσας. Για το λόγο αυτό, προκύπτουν ορισμένα ερωτήματα: είναι δυνατόν έλεγχος της τεχνητής νοημοσύνης πόσο μακριά? Πόσο έτοιμοι είμαστε να πολεμήσουμε α Όλα συμπεριλαμβάνονται που λειτουργεί πέρα από τις ανθρώπινες δυνατότητες; Πόσο ηθικό είναι να δημιουργηθεί ένα πρόγραμμα του οποίου οι συνέπειες και οι επιπτώσεις δεν μπορούν ακόμη να μετρηθούν; Δείτε τώρα περισσότερες πληροφορίες σχετικά με αυτές τις ερωτήσεις που έθεσαν οι επιστήμονες.
Διαβάστε περισσότερα: 7 εφαρμογές τεχνητής νοημοσύνης: ορισμένες ήδη αντικαθιστούν την ανθρώπινη εργασία
δείτε περισσότερα
Ειδοποίηση: ΑΥΤΟ το δηλητηριώδες φυτό προσγείωσε έναν νεαρό άνδρα στο νοσοκομείο
Η Google αναπτύσσει εργαλείο τεχνητής νοημοσύνης για να βοηθήσει τους δημοσιογράφους…
Τεχνητή νοημοσύνη με υπερνοημοσύνη
Ακούγεται σαν πλοκή ταινίας επιστημονικής φαντασίας, αλλά η αλήθεια είναι ότι μια τεχνητή νοημοσύνη μπορεί πράγματι να δημιουργήσει αυτονομία για την εκμάθηση εντολών που μπορούν αργότερα να στραφούν εναντίον των ανθρώπων. Δεν είναι εγγυημένο, για παράδειγμα, ότι θα ακολουθήσουν κανόνες όπως «μην προκαλείτε κακό στην ανθρωπότητα», αφού ότι θα προγραμματιστούν να έχουν αυτονομία και μπορούν να παρακάμψουν τα όρια που επιβάλλονται από προγραμματιστές.
Πρόβλημα διακοπής του Alan Turing
Ονομάζεται "πρόβλημα διακοπής", αυτό το πρόβλημα δίνει δύο εναλλακτικές λύσεις για μια εντολή που δίνεται σε έναν υπολογιστή: είτε θα το κάνει να καταλήξει σε ένα συμπέρασμα και είτε να απαντήσει σε αυτό σταματώντας, είτε θα συνεχίσει σε βρόχο προσπαθώντας να βρει μια λύση – μέχρι βρες την. Για το λόγο αυτό, είναι αδύνατο να γνωρίζουμε αν η τεχνητή νοημοσύνη θα σταματήσει, ή αν θα βρει και θα αποθηκεύσει όλα τα πιθανά συμπεράσματα στη μνήμη της.
Το πρόβλημα με αυτό είναι ότι δεν είναι δυνατό να μετρηθεί, μετά από λίγο, ποια λύση ή εναλλακτική λύση θα πάρει το μηχάνημα για ένα δεδομένο πρόβλημα. Με αυτόν τον τρόπο, η συμπεριφορά του θα είναι απρόβλεπτη και θα είναι άσκοπο να δημιουργηθεί ένας αλγόριθμος περιορισμού.
Διαφορές μεταξύ απόψεων επιστημόνων
Ορισμένοι επιστήμονες υποστηρίζουν ότι όλες οι εξελίξεις στην τεχνολογία πρέπει να σχεδιαστούν για να προάγουν το κοινό καλό με ασφαλή και ελεγχόμενο τρόπο. Με αυτόν τον τρόπο, μια υπερμηχανή ικανή να αποθηκεύει κάθε είδους νοημοσύνη, με ανεπαρκείς δυνάμεις συγκράτησης και αμέτρητη ακόμη ικανότητα καταστροφής, φαίνεται σαν κάτι επικίνδυνο.
Έχοντας αυτό κατά νου, οι ερευνητές υπολογιστών ισχυρίζονται ότι οι υπερέξυπνες μηχανές μπορεί να έχουν βλάβες που υπερτερούν των οφελών και η κατασκευή τους θα πρέπει να αποφεύγεται. Πολλοί προγραμματιστές ασχολούνται συνεχώς με το γεγονός ότι οι μηχανές τους έχουν μάθει να κάνουν πράγματα που ποτέ δεν μπορούσαν. δίδαξε ή δημιούργησε εντολές για να μάθουν - και αυτό, ανάλογα με το τι μαθαίνουν, μπορεί να συμβολίζει α κίνδυνος.
ηθικά ζητήματα
Ο περιορισμός των δυνατοτήτων υπερκατασκοπίας μπορεί να είναι μια βιώσιμη εναλλακτική λύση. Για να γίνει αυτό, μπορείτε να το αποκόψετε από μέρη του Διαδικτύου ή από ορισμένα δίκτυα. Αυτά θα ήταν παραδείγματα μηχανισμών συγκράτησης. Ωστόσο, δεν είναι ακόμη γνωστό εάν αυτές οι εναλλακτικές λύσεις είναι βιώσιμες - ή εάν το μηχάνημα θα έχει πρόσβαση σε αυτά τα περιεχόμενα με τρόπο που δεν έχει ακόμη αποκαλυφθεί.
Επομένως, εάν η ανθρωπότητα συνεχίσει να προοδεύει με την τεχνητή νοημοσύνη, είναι απαραίτητο να είμαστε πολύ προσεκτικοί με το βαθμό στον οποίο πρέπει να είναι αυτόνομη.
