Ένας δημοσιογράφος της The Washington Post έθεσε σε δοκιμή τη νέα προαιρετική λειτουργία ενσωμάτωσης του ChatGPT με το Apple Health, παρέχοντας δεδομένα από το Apple Watch του για δέκα χρόνια. Τα αποτελέσματα ήταν απογοητευτικά.
Δείτε επίσης: Το Claude AI για iPhone συνδέεται πλέον με το Apple Health στις ΗΠΑ
Νωρίτερα αυτόν τον μήνα, η OpenAI ανακοίνωσε την κυκλοφορία του ChatGPΤ Health, μιας ειδικής ενότητας του ChatGPΤ όπου οι χρήστες μπορούν να κάνουν ερωτήσεις σχετικές με την υγεία, εντελώς ξεχωριστά από την κύρια εμπειρία του ChatGPT. Για πιο εξατομικευμένες απαντήσεις, οι χρήστες μπορούν να συνδέσουν διάφορες υπηρεσίες δεδομένων υγείας όπως το Apple Health, το Function, το MyFitnessPal, το Weight Watchers, το AllTrails, το Instacart και το Peloton.
Το ChatGPΤ Health μπορεί επίσης να ενσωματωθεί με τα ιατρικά σας αρχεία, επιτρέποντάς του να αναλύει τα αποτελέσματα των εργαστηριακών σας εξετάσεων και άλλες πτυχές του ιατρικού σας ιστορικού για να ενημερώνει τις απαντήσεις του στις ερωτήσεις σας σχετικά με την υγεία.
Με αυτό κατά νου, ο δημοσιογράφος Geoffrey Fowler έδωσε στο ChatGPT Health πρόσβαση σε 29 εκατομμύρια βήματα και 6 εκατομμύρια μετρήσεις καρδιακών παλμών από την εφαρμογή Apple Health του και ζήτησε από το bot να αξιολογήσει την καρδιακή του υγεία. Το αποτέλεσμα ήταν κακό.
Αισθανόμενος δικαιολογημένα ανησυχία, ο Fowler ρώτησε τον πραγματικό του γιατρό, ο οποίος απέρριψε κατηγορηματικά την εκτίμηση της AI. Ο γιατρός του είπε ότι ο Fowler είχε τόσο χαμηλό κίνδυνο για καρδιακά προβλήματα που η ασφάλειά του πιθανότατα δεν θα κάλυπτε επιπλέον εξετάσεις για να αποδείξει το αντίθετο από τα ευρήματα του chatbot.
Δείτε ακόμα: OpenAI: Τα κέντρα δεδομένων της θα πληρώνουν για την ενέργεια
Ο καρδιολόγοςEric Topol από το Scripps Research Institute ήταν επίσης απογοητευμένος με την εκτίμηση του μεγάλου γλωσσικού μοντέλου. Χαρακτήρισε την ανάλυση του ChatGPΤ ως “αβάσιμη” και είπε ότι οι άνθρωποι πρέπει να αγνοούν τις ιατρικές του συμβουλές, καθώς δεν είναι έτοιμο για χρήση.
Ίσως το πιο ανησυχητικό εύρημα ήταν η ασυνέπεια του ChatGPΤ. Όταν ο Fowler έκανε την ίδια ερώτηση πολλές φορές, η βαθμολογία του κυμαινόταν άγρια μεταξύ ενός F και ενός B. Το ChatGPT επίσης ξεχνούσε βασικές πληροφορίες για αυτόν, συμπεριλαμβανομένου του φύλου και της ηλικίας του, παρά το γεγονός ότι είχε πλήρη πρόσβαση στα αρχεία του.
Το Claude chatbot της Anthropic τα πήγε ελαφρώς καλύτερα – αν και όχι πολύ. Το LLM αξιολόγησε την καρδιακή υγεία του Fowler με ένα C, αλλά επίσης απέτυχε να λάβει σωστά υπόψη τους περιορισμούς στα δεδομένα του Apple Watch.
Και οι δύο εταιρείες λένε ότι τα εργαλεία υγείας τους δεν προορίζονται να αντικαταστήσουν τους γιατρούς ή να παρέχουν διαγνώσεις. Ο Topol σωστά υποστήριξε ότι αν αυτά τα bots δεν μπορούν να αξιολογήσουν με ακρίβεια τα δεδομένα υγείας, τότε δεν θα έπρεπε να προσφέρουν βαθμολογίες καθόλου.
Ωστόσο, τίποτα δεν φαίνεται να τα σταματά. Ο Οργανισμός Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) δήλωσε νωρίτερα αυτόν τον μήνα ότι η δουλειά του οργανισμού είναι να “απομακρυνθεί ως ρυθμιστής” για να προωθήσει την καινοτομία. Ένας επίτροπος του οργανισμού έθεσε μια κόκκινη γραμμή στο AI που κάνει “ιατρικές ή κλινικές αξιώσεις” χωρίς ανασκόπηση από το FDA, αλλά το ChatGPT και το Claude υποστηρίζουν ότι απλώς παρέχουν πληροφορίες.
Δείτε επίσης: ChatGPT: Νέο μοντέλο πρόβλεψης ηλικίας για προστασία ανηλίκων
Η ενσωμάτωση του ChatGPT με το Apple Health είναι προς το παρόν περιορισμένη σε μια ομάδα beta χρηστών. Ανταποκρινόμενη στην έκθεση, η OpenAI δήλωσε ότι εργάζεται για τη βελτίωση της συνέπειας των απαντήσεων του chatbot. “Η κυκλοφορία του ChatGPT Health με πρόσβαση μέσω λίστας αναμονής μας επιτρέπει να μαθαίνουμε και να βελτιώνουμε την εμπειρία πριν την κάνουμε ευρέως διαθέσιμη,” δήλωσε η αντιπρόεδρος της OpenAI, Ashley Alexander, στο δημοσίευμα.
