Η συζήτηση για τα όρια και τον έλεγχο της τεχνητής νοημοσύνης έχει αναθερμανθεί καθώς δημοσιεύματα ισχυρίζονται πως αμερικανικό οπλισμένο μη επανδρωμένο αεροσκάφος MQ-9 Reaper “σκότωσε” τον χειριστή του σε άσκηση προσομοίωσης.
Συγκεκριμένα, ο Σμήναρχος Tucker “Cinco” Hamilton, επικεφαλής του προγράμματος δοκιμών τεχνητής νοημοσύνης της Πολεμικής Αεροπορίας των ΗΠΑ, δήλωσε την περασμένη εβδομάδα πως κατά την διάρκεια προσομοίωσης σεναρίων με το MQ-9 Reaper, το σενάριο προέβλεπε καταστροφή συστοιχίας πυραύλων εδάφους-αέρος και όταν ο χειριστής ακύρωσε το χτύπημα τότε το drone “αποφάσισε” να χτυπήσει τον χειριστή καθώς το εμπόδιζε να εκτελέσει την αποστολή. Στη συνέχεια, όταν πέρασε η εντολή στο σύστημα να μην χτυπήσει τον χειριστή, άρχισε να βάλλει κατά του πύργου ελέγχου. Η δήλωση του δημοσιεύτηκε από το Royal Aeronautical Society.
Ο εκπρόσωπος τύπου της Πολεμικής Αεροπορίας των ΗΠΑ, διέψευσε πως έχει διεξαχθεί η εν λόγω προσομοίωση, πως τα σχόλια του Hamilton είναι εκτός πλαισίου και η Αεροπορία παραμένει προσηλωμένη στην ηθική και υπεύθυνη χρήση της τεχνητής νοημοσύνης.
Η εν λόγω συζήτηση έφερε ξανά στο προσκήνιο το ζήτημα της τεχνητής νοημοσύνης στα οπλικά συστήματα, κατά πόσο μπορεί ο άνθρωπος να συγκρατήσει τον έλεγχο (man-in-the-loop) καθ΄όλη τη διάρκεια της διαδικασίας και πως μπορεί να αναπτυχθεί σε ηθικό πλαίσιο η τεχνητή νοημοσύνη.
