Πώς η Τεχνητή Νοημοσύνη εξαπατά τους καταναλωτές
Η Τεχνητή Νοημοσύνη (ΤΝ) και οι αλγόριθμοι έχουν γίνει κεντρικά εργαλεία στη λειτουργία των επιχειρήσεων, οι οποίες χρησιμοποιούν αυτές τις τεχνολογίες για την παρακολούθηση της καταναλωτικής συμπεριφοράς, την ανάλυση δεδομένων και την προσαρμογή των στρατηγικών τους με σκοπό συχνά την άκρατη μεγιστοποίηση του κέρδους.
Η χρήση αυτών των τεχνολογιών, της τεχνητής νοημοσύνης και των αλγορίθμων, έχει εγείρει ανησυχίες για αθέμιτες πρακτικές, καθώς συχνά οι επιχειρήσεις εφαρμόζουν τακτικές που όχι μόνο μεγιστοποιούν τα έσοδά τους, αλλά και εξαπατούν τους καταναλωτές, εκμεταλλευόμενες τα προσωπικά δεδομένων που συλλέγουν και τη συνακόλουθη «ασυμμετρία πληροφόρησης» μεταξύ πωλητών και αγοραστών. Σύμφωνα με τον Άνταμ Σμιθ και την κλασική οικονομική θεωρία του «αόρατου χεριού», οι αγορές τείνουν προς μια φυσική ισορροπία όπου η προσφορά και η ζήτηση βρίσκουν το δρόμο τους προς την αποτελεσματικότητα. Όμως οι καταναλωτές πάντα βρισκόταν σε μειονεκτική θέση λόγω της έλλειψης κρίσιμων πληροφοριών, κάτι που οδήγησε σε μια μορφή «ασυμμετρίας πληροφόρησης» μεταξύ πωλητών και αγοραστών. Παρά την εκρηκτική άνοδο του ίντερνετ και των δεδομένων, η εξισορρόπηση αυτή όχι μόνο δεν πραγματοποιήθηκε, αλλά οι ανισότητες έχουν επιδεινωθεί λόγω των εξελιγμένων στρατηγικών που χρησιμοποιούν οι επιχειρήσεις.
Η σύγχρονη αγορά βασίζεται στην ανάλυση προσωπικών δεδομένων και στην προσαρμογή των τιμών με βάση τον αλγοριθμικό έλεγχο. Με τη βοήθεια των αλγορίθμων, οι επιχειρήσεις μπορούν να προβλέπουν τις ανάγκες και τις προτιμήσεις των πελατών, προσαρμόζοντας τις τιμές και τις υπηρεσίες αναλόγως.
Η Τεχνητή Νοημοσύνη ως Εργαλείο Εκμετάλλευσης
Αυτή η εξατομίκευση μπορεί να έχει προφανή οφέλη, όπως την καλύτερη εξυπηρέτηση και την παροχή κατάλληλων προϊόντων στους καταναλωτές. Όμως, σε πολλές περιπτώσεις, η χρήση της εξατομίκευσης γίνεται σε βάρος των πελατών, καθώς οι εταιρείες εκμεταλλεύονται τα προσωπικά δεδομένα για να επιτύχουν υψηλότερες τιμές και να ενισχύσουν τη θέση τους στην αγορά.
Στο σχετικό βιβλίο μου (“Σιωπηλός Καινούργιος Κόσμος”) παρουσιάζονται εντυπωσιακά παραδείγματα αθέμιτων πρακτικών όπου οι αλγόριθμοι χρησιμοποιούνται για να προσαρμόζουν τις τιμές αναλόγως της προσωπικής κατάστασης του καταναλωτή, όπως στην περίπτωση της Uber ταξί που αύξανε τις τιμές (surge pricing) με βάση την μπαταρία του κινητού του πελάτη και τον γεωεντοπισμό, και όχι μόνο ( δηλ. χαμηλή μπαταρία και απομακρυσμένο σημείο, σήμαινε δυσκολία επικοινωνίας και με άλλες εταιρίες ταξί, άρα ο πελάτης εύκολα θα δεχόταν μια υψηλότερη τιμή, δες σχετικά Harvard Business Review). Ομοίως, οι αεροπορικές εταιρείες μπορούν να «διαβάζουν» από τα προσωπικά δεδομένα των ταξιδιωτών τις επικείμενες μετακινήσεις (πχ ανάγκη για επίσκεψη σε γονείς / οικογένεια ) και να ανεβάζουν τις τιμές όταν ανιχνεύσουν ότι ένας καταναλωτής έχει υψηλή ανάγκη για ένα συγκεκριμένο εισιτήριο / προορισμό. Η πρακτική αυτή είναι γνωστή ως «προσωποποιημένη τιμολόγηση» και βασίζεται στη χρήση τεχνητής νοημοσύνης που αναλύει τα μοτίβα κατανάλωσης του κάθε ατόμου, αλλά και στην παράνομη πρόσβαση στα προσωπικά δεδομένα του, για να εκμεταλλευτεί τις ανάγκες / αδυναμίες του.
Ένα άλλο χαρακτηριστικό παράδειγμα αναφέρεται στο ηλεκτρονικό εμπόριο, όπου για παράδειγμα η Amazon έχει κατηγορηθεί για πρακτικές όπως η αυθαίρετη αύξηση των τιμών, η δημιουργία ψευδών εκπτώσεων και η προώθηση προϊόντων με βάση τις καταναλωτικές ανάγκες. Σε περιόδους κρίσης, όπως στην πανδημία COVID-19 ή σε φυσικές καταστροφές, καταγράφηκαν ακραία περιστατικά όπου οι τιμές προϊόντων πρώτης ανάγκης, όπως το νερό ή τα φάρμακα, εκτοξεύθηκαν. Ο αλγοριθμικός έλεγχος των τιμών λειτουργεί χωρίς ηθικούς φραγμούς, και στόχος είναι αποκλειστικά το οικονομικό όφελος. (“Amazon is under fire for reported Hurricane Irma price gouging, with ‘life-sustaining necessities’ selling for wildly inflated prices”, Business Insider, 7 Σεπτεμβρίου 2017).
