Όταν η Τεχνητή Νοημοσύνη γίνεται επικίνδυνος «γιατρός»: Η απίστευτη περίπτωση του άνδρα με την σπάνια δηλητηρίαση από… αλάτι
Η τεχνητή νοημοσύνη (AI) έχει μπει για τα καλά στη ζωή μας, προσφέροντας πληροφορίες για κάθε πιθανό ερώτημα. Όμως, μια πρόσφατη υπόθεση που δημοσιεύτηκε σε ιατρικό περιοδικό των ΗΠΑ έρχεται να μας υπενθυμίσει με τον πιο δραματικό τρόπο τους κινδύνους της χρήσης της για ιατρικές συμβουλές. Ένας 60χρονος άνδρας ανέπτυξε μια σπάνια και επικίνδυνη πάθηση, τη βρωμίωση, αφού ακολούθησε την οδηγία του ChatGPT να σταματήσει το αλάτι και να το αντικαταστήσει με μια «υγιεινή» εναλλακτική.
Το χρονικό της υπόθεσης
Ο ασθενής, ένας 60χρονος άνδρας, αποφάσισε να ρωτήσει το ChatGPT για το πώς να μειώσει την πρόσληψη αλατιού στη διατροφή του. Το chatbot, απαντώντας, του πρότεινε να χρησιμοποιήσει ένα υποκατάστατο που περιείχε βρώμιο. Η συμβουλή φαινόταν αθώα, καθώς το βρώμιο βρίσκεται σε πολλά τρόφιμα και φάρμακα, αλλά η υπερβολική και συνεχής χρήση του υποκατάστατου οδήγησε σε σοβαρή δηλητηρίαση.
Ο άνδρας άρχισε να εμφανίζει συμπτώματα όπως αταξία (δυσκολία στο περπάτημα), σύγχυση, εμβοές στα αυτιά και δυσκολία στην ομιλία. Όταν εισήχθη στο νοσοκομείο, οι γιατροί έμειναν έκπληκτοι. Η διάγνωση ήταν βρωμίωση, μια σπάνια και δυνητικά θανατηφόρα πάθηση που προκαλείται από συσσώρευση βρωμιούχου άλατος στον οργανισμό. Η κατάσταση του ήταν τόσο σοβαρή που χρειάστηκε να υποβληθεί σε αιμοκάθαρση για να αποβληθεί η τοξική ουσία.
Τι είναι η βρωμίωση και γιατί είναι επικίνδυνη;
Η βρωμίωση είναι μια σπάνια μορφή δηλητηρίασης, που συνήθως προκύπτει από την κατάχρηση βρωμιούχων αλάτων ή φαρμάκων που τα περιέχουν. Τα συμπτώματα, όπως έδειξε και η περίπτωση του 60χρονου, επηρεάζουν κυρίως το νευρικό σύστημα και μπορεί να περιλαμβάνουν:
- Αταξία και αστάθεια στο βάδισμα
- Διανοητική σύγχυση και ψευδαισθήσεις
- Δερματικά εξανθήματα και δερματικές αλλοιώσεις
- Γαστρεντερικά προβλήματα
Γιατί η Τεχνητή Νοημοσύνη δεν μπορεί να αντικαταστήσει έναν γιατρό
Η υπόθεση αυτή αποτελεί μια ηχηρή προειδοποίηση για την αλόγιστη χρήση της τεχνητής νοημοσύνης για ιατρικά θέματα. Οι λόγοι είναι πολλοί και σημαντικοί:
- Η έλλειψη εξειδίκευσης: Τα chatbots όπως το ChatGPT είναι γενικής χρήσης. Δεν έχουν την κατάρτιση και την κλινική εμπειρία ενός γιατρού για να αξιολογήσουν την κατάσταση ενός ατόμου, να λάβουν υπόψη το ιατρικό του ιστορικό ή να κατανοήσουν τις ιδιαιτερότητες μιας πάθησης.
- Η αδυναμία διάκρισης του κινδύνου: Η τεχνητή νοημοσύνη αδυνατεί να κατανοήσει το «πλαίσιο» της πληροφορίας. Ένα υποκατάστατο αλατιού μπορεί να είναι ασφαλές για κάποιους, αλλά τοξικό για άλλους, ανάλογα με την ποσότητα και τη συχνότητα χρήσης, κάτι που ένας αλγόριθμος δεν μπορεί να αξιολογήσει.
- Ο κίνδυνος των «λάθος» δεδομένων: Παρόλο που τα chatbots έχουν πρόσβαση σε τεράστιες ποσότητες δεδομένων, δεν μπορούν να διακρίνουν πάντα τις έγκυρες ιατρικές πηγές από τις αναξιόπιστες. Μια λάθος πληροφορία μπορεί να έχει καταστροφικές συνέπειες, όπως συνέβη και στην περίπτωση αυτή.
Η χρήση της τεχνητής νοημοσύνης μπορεί να είναι ένα χρήσιμο εργαλείο για την εύρεση γενικών πληροφοριών. Ωστόσο, όταν πρόκειται για την υγεία, η μοναδική έγκυρη πηγή πληροφοριών και συμβουλών είναι ο γιατρός σας. Μόνο ένας επαγγελματίας υγείας μπορεί να κάνει μια ολοκληρωμένη διάγνωση και να προτείνει μια ασφαλή και αποτελεσματική θεραπεία. Η τεχνολογία είναι ένα εργαλείο, όχι ένας παντογνώστης γιατρός.
