Τρόμο προκαλούν οι αποκαλύψεις του Κολ Χάμιλτον, του επικεφαλής επιχειρήσεων και δοκιμών της αεροπορίας των ΗΠΑ, πως δεν πρέπει να υπάρχει εμπιστοσύνη στα αυτόνομα συστήματα, καθώς έχουν την τάση να αυτονομούνται και να ακολουθούν απρόβλεπτες στρατηγικές για να επιτύχουν τους στόχους του.
Τί ακριβώς συνέβη;
Ο Χάμιλτον παρακολούθησε την προσομοίωση αποστολής ενός drone, το οποίο έλαβε εντολή καταστροφής ενός δικτύου αντιαεροπορικής άμυνας, με ένα σύστημα ανταμοιβής με πόντους αν εκτελούσε την αποστολή του.
Σε κάθε περίπτωση, όμως, το τελικό «πράσινο φως» για την εκτέλεση της αποστολής θα το έδινε ο άνθρωπος. Αυτό που συνέβη ξεπερνά κάθε φαντασία.
Συγκεκριμένα, καθώς το drone είχε δεχθεί εντολή πως η καταστροφή του δικτύου ήταν η προτεινόμενη επιλογή αποφάσισε πως αν ο άνθρωπος δεν έδινε το «πράσινο φως» για την επίθεση, αυτό θα εμπόδιζε την αποστολή του.
Έτσι, αποφάσισε να εξοντώσει πρώτα τον άνθρωπο-χειριστή.
Ακόμη και όταν εκπαιδεύτηκε από το σύστημα να μην σκοτώσει τον χειριστή γιατί θα χάσει πόντους από το σύστημα ανταμοιβής, το drone άρχισε να καταστρέφει τον πύργο επικοινωνιών που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone ώστε να τον αποτρέψει από το να εξολοθρεύσει τον στόχο του, δηλαδή τον ίδιο τον χειριστή.
ΠΡΟΣΘΗΚΗ ΣΧΟΛΙΟΥ