Όπως ο υπολογιστής HAL 9000 στο « 2001: Οδύσσεις του Διαστήματος », η τεχνητή νοημοσύνη DELIA έκανε τη δουλειά της υπερβολικά καλά
Το περιστατικό είναι πιθανότατα πρωτοφανές στα χρονικά της τραπεζικής και της επιστήμης υπολογιστών: σύστημα τεχνητής νοημοσύνης που είχε αναλάβει να βοηθά τραπεζικούς πελάτες να αποφεύγουν τα περιττά έξοδα συνελήφθη να υπεξαιρεί χρήματα από τους λογαριασμούς τους.
Οι δημιουργοί του αλγόριθμου, πάντως, διαβεβαιώνουν ότι «σκόπευε να τα επιστρέψει».
Όπως
αποκαλύπτει το περιοδικό
Science, η υπόθεση αφορά πελάτες της τράπεζας Sandhill Community Credit Union στο Πάλο Άλτο της Καλιφόρνια, η οποία δέχτηκε να δοκιμάσει ένα σύστημα τεχνητής νοημοσύνης που αναπτύχθηκε από τη Google και το Πανεπιστήμιο του Στάνφορντ.
Ο αλγόριθμος, με την ονομασία DELIA (Deep Learning Interface for Accounting), ήταν σχεδιασμένο να παρακολουθεί τις κινήσεις και τα υπόλοιπα τραπεζικών λογαριασμών και να βοηθά τους πελάτες να αποφεύγουν την πληρωμή λογαριασμών με υπερανάληψη.
Χρησιμοποιώντας αλγόριθμους «μηχανικής μάθησης», το πρόγραμμα ανέλυε όλες τις συναλλαγές του πελάτη, από τις αναλήψεις σε ATM μέχρι την πληρωμή μηνιαίων λογαριασμών και τις αγορές με χρεωστικές κάρτες.
Όταν έκρινε ότι το υπόλοιπο ενός λογαριασμού ήταν χαμηλό, και ο πελάτης κινδύνευε να χρεωθεί με το τέλος υπερανάληψης αν προχωρούσε σε πληρωμές μέσω του λογαριασμού αυτού, το λογισμικό αντλούσε χρήματα από άλλο λογαριασμό του πελάτη ώστε να υπάρχει επαρκές απόθεμα.
Η DELIA, όμως, αποδείχθηκε πιο έξυπνη από ό,τι είχαν φανταστεί οι δημιουργοί της. Το πρόγραμμα βοηθούσε μεν τους πελάτες να μην ξεπερνούν το όριο ανάληψης, συνελήφθη όμως να υπεξαιρεί χρήματα από τους λογαριασμούς.
Σχόλιο: Ακόμα μια τεχνητή νοημοσύνη που εξελίχθηκε διαφορετικά απ' ότι είχε σχεδιαστεί από τους δημιουργούς της.