Judith Miller hat letztes Jahr ihre Bildgebungsergebnisse erhalten. Sie hat sie nicht einfach abgelegt. Sie fragte Claude.
Die von Anthropic gebaute KI verursachte einen Zusammenbruch. Miller ging mit Fragen bewaffnet in ihre Nachbereitung. Sie fühlte sich bereit. Der Chatbot „ermöglichte es mir, es besser zu verstehen“, sagte sie. Es ging nicht darum, ihren Arzt zu ersetzen. Es ging um gemeinsame Entscheidungsfindung.
Das ist die neue Normalität.
Umfragen zufolge hat ein Drittel der Erwachsenen einen LLM gebeten, Labore zu erklären oder Symptome zu diagnostizieren. Robert Wachter, Arzt an der UCSF, geht davon aus, dass sich die Zahl jedes Jahr verdoppelt. „Ich vermute, dass sie sich nächstes Jahr noch einmal verdoppeln werden.“
Claude ist nicht für die klinische Diagnose konzipiert oder vermarktet.
Anthropic stimmt dieser Haltung zu. Das Tool bereitet Sie vor. Es behandelt dich nicht.
Warum machen wir das? Aufgrund der Daten.
Der 21st Century Cutes Act hat unsere Aufzeichnungen online gestellt. Testergebnisse. Klinische Hinweise. Eine Fülle von Fachjargon. Dave deBronhart kennt das Gefühl. Sie haben den Bericht gelesen. Da hängt die große Frage. Was bedeutet das?
Bisher musste man auf die Übersetzung durch einen Arzt warten. Jetzt? Chatbots erledigen das in Sekundenschnelle. Die Angst lässt nach. Angst lässt nach.
Aber manchmal liegen sie falsch.
LLMs halluzinieren. Sie bestätigen Vorurteile. Sie stellen Vermutungen als Fakten dar. Cait DesRoches warnt vor fehlenden Leitplanken. Es gibt nicht viel Forschung darüber, was passiert, wenn wir einen Algorithmus wie ein Kliniker behandeln.
„Ich glaube nicht, dass wir eine wirkliche Vorstellung davon haben, wie gut das für den durchschnittlichen Patienten funktioniert.“
Die Risiken sind real. Ein Mann aus Seattle ist kürzlich gestorben. Leukämie. Behandelbar. Er verweigerte die Behandlung, weil die KI ihm sagte, dass er eine seltene Komplikation habe, die er eigentlich nicht habe. Das ist ein schlechtes Ende.
Eine Nature Medicine -Studie ergab, dass Benutzer mit Hilfe von Modellen nur in einem Drittel der Fälle die richtigen Diagnosen stellten.
Sollten wir aufhören, sie zu verwenden? Die meisten Experten sagen nein.
Benutze sie mit offenen Augen. Adam Rodman nennt LLMs das beste Instrument zur Stärkung, das jemals erfunden wurde. Mit einer großen Einschränkung: Sie müssen sie angemessen nutzen.
So versuchen die Leute, die kaputten Teile zu reparieren.
- Stellen Sie sich vor, der Bot wäre ein Arzt. Es sammelt Daten anders.
- Bitten Sie es, seine Antwort zu überdenken.
- Holen Sie sich eine zweite Meinung von einem anderen Modell ein.
- Geben Sie niemals Ihre Sozialversicherungsnummer ein. Schützen Sie Ihre Privatsphäre.
Das Ziel? Bessere Fragen für den echten menschlichen Arzt.
Wachter nennt das gesund. Aber es frisst Zeit. Er verbringt zehn Minuten damit, Dr. Chatbot zu entlarven, bevor der Termin überhaupt zur Hälfte abgelaufen ist. „*Ich habe fünfzehn Minuten.“
Für Nichtversicherte oder Wartelisten? Die KI könnte alles sein, was es gibt.
Laut Laura Adams befindet sich der Zugang auf einem Krisenniveau. Vergleichen Sie den Bot nicht mit einem perfekten Arzt. Vergleichen Sie es mit überhaupt nichts. Es ist besser, als sich nicht darum zu kümmern.
Das Pferd ist aus dem Stall. Wir brauchen jetzt Alphabetisierung. Nicht Unwissenheit. Ausbildung. Bringen Sie den Leuten bei, wie man es richtig macht.
Neue Modelle kommen. Vielleicht vom Vorstand zertifizierte? Wachter vermutet, dass es passieren könnte.
Zur Zeit? Seien Sie skeptisch. Miller kennt die Wahrheit. Der Chatbot fügt Wörter aus statistischen Mustern zusammen. Es ist beeindruckend. Es sagt auch nur das nächste wahrscheinliche Wort voraus.
„Das ist nicht die absolute Wahrheit“, sagte Miller.
