Lokale KI

[Stagefire85]

Gleich mal vorab:
Ich kenne mich mit lokalen KIs nicht aus.
Daher die Anfängerfragen.

Ich hab das Problem, dass wir in der Firma mit sensiblen Kundendaten arbeiten müssen.
Die einfach in ChatGPT hochladen geht also nicht.

Würde mir da eine lokale KI auf meinem Rechner helfen?
Als Beispiel:
Ich kriege von einem Kunden einen Krankenhausbericht und ein paar Arztberichte.
Da gehts dann z.B. darum, ob es ein vollständiger Knochenbruch ist, den er hat.

Eine KI kann die ganzen Arztbegriffe super lesen.

Wenn ich mir da also was lokal auf meinem PC installiere, würde mir das für solche Fälle helfen können?

 

[TorenAltair]

Technisch vielleicht. Rechtlich gibt es im medizinischen Bereich umfangreiche Vorschriften und Zertifizierungen was wie von wem mit welcher Dokumentation gemacht werden darf.

 

[DERHansWurst]

Der Arbeitgeber sollte dir eine KI mitsamt Account und Berechtigungen zur Verfügung stellen.
Alles andere wäre/ist zu heiß.

 

[Conqi]

Auf einem gewöhnlichen Büro-PC läuft leider kein KI-Modell, das auch nur ansatzweise mit dem zu vergleichen ist, was du von ChatGPT und Co. gewohnt bist. Wenn dann müssten einige tausend Euro in stärkere Hardware investiert werden.

 

[Fujiyama]

Wahrscheinlich kannst du nicht irgendwas auf dem PC installieren, auch muss der PC bestimmte Hardware haben, in dem Bereich dürften auch die Datenschutzanforderungen extrem hoch sein.

 

[Gigaherz]

Krankendaten sind extrem heikel, da wirst du mit Sicherheit erst passende Zertifikate brauchen oder musst Kunden explizit auf die Datenverarbeitung hinweisen.

 

[Weasel0815]

Alleine schon die Hardware das das sinnvoll Lokal Funktioniert dürfte zigtausende Euros Kosten.

Und wenn die KI dann auch noch irgendwo falschliegt und dann jemand falsch behandelt oder abgerechnet oder sonst was wird.

Da ist man ruckzuck in Teufelsküche das würde ich mir schwer überlegen sowas einfach so ungefragt und ungenehmigt durchzuziehen.

Selbst auf meiner Rtx 4080 funktioniert das nur in einem sehr begrenzten rahmen.

 

[iSight2TheBlind]

Ganz einfach ausgedrückt: Wenn du fragen musst ob das geht ist der PC auf dem du es nutzen könntest gar nicht leistungsfähig genug um eine gute lokale KI laufen zu lassen!
Denn sonst hättet ihr in der Firma/Praxis/Klinik bereits eine Lösung in Betracht gezogen/etabliert und würdet nicht so - und das meine ich wirklich in keinster Weise böse - planlos fragen
Ein normaler Büro-PC hat gar keine Chance und selbst eine teure Workstation ist in der Regel nicht dafür geeignet. Es braucht eigentlich immer sehr teure Spezialhardware und wenn ihr sowas hättet wüsstest du davon

 

[conf_t]

Genauso, wenn hat dein Arbeitgeber eine lokale / isolierte KI selbst am laufen (hatte mein letzter und mein aktueller AG) , die auch nutzen darfst, ohne Rückendeckung vom Arbeitgeber würde ich die Finger von lassen, kann sonst übel ins Auge gehen, insbesondere weil auch rechtlich die Zügel angezogen wurden.

 

[Arboster]

Als Beispiel:
Ich kriege von einem Kunden einen Krankenhausbericht und ein paar Arztberichte.
Da gehts dann z.B. darum, ob es ein vollständiger Knochenbruch ist, den er hat.

Eine KI kann die ganzen Arztbegriffe super lesen.

Wenn ich mir da also was lokal auf meinem PC installiere, würde mir das für solche Fälle helfen können?

Du bist also nicht qualifiziert genug für den Job den du machen sollst und willst das mit einer KI kompensieren?
Wie wäre es mit einer Fortbildung?

 

[ameisenbaer]

Als Beispiel:
Ich kriege von einem Kunden einen Krankenhausbericht und ein paar Arztberichte.
Da gehts dann z.B. darum, ob es ein vollständiger Knochenbruch ist, den er hat.

Eine KI kann die ganzen Arztbegriffe super lesen.

Wenn ich mir da also was lokal auf meinem PC installiere, würde mir das für solche Fälle helfen können?

Dann bekommst wahrscheinlich einen Konflikt mit Artikel 22 DSGVO, wenn Du nicht ohne KI in der Lage bist, die Arztbegriffe zu verstehen und manuell nachzuprüfen.

 

[kachiri]

@ameisenbaer Art. 22 DSVGO sagt aus, dass keine "automatisierte Entscheidung" erfolgen darf. Hier geht es um die Auswertung einer bereits getroffenen Entscheidung eines anderen Arztes und nicht um eine erneute Diagnose durch die KI.
So wie ich den Punkt verstehe geht es eher darum, dass der "kryptische" Arztbrief in eine kurze verständliche Form gebracht wird. Damit man als Mitarbeiter einer Praxis oder vielleicht sogar als Patient nicht erst im Lateinwörterbuch nachschauen muss bzw. den ICD-Code googlet...

Um mal Art. 22 DSVGO auf eine Arztpraxis zu übertragen: Du darfst eine KI nicht mit Befunden füttern und die KI erstellt daraus eine Diagnose ;D

 

[Ultra_Force]

Schafft ihr mit M365? Wenn ja dann könnt ihr den Copilot nutzen, der hat ja den Work IQ und ihr könnt dann Richtlinien noch erstellen.

 

[Stagefire85]

Du bist also nicht qualifiziert genug für den Job den du machen sollst und willst das mit einer KI kompensieren?
Wie wäre es mit einer Fortbildung?

Es gibt viele Dinge in meinem Beruf die ich nicht weiß.

Genau deshalb würde der Einsatz von KI ja Sinn machen.

 

[TorenAltair]

Also bist Du angestellt. Was sagen denn die Vorgesetzten zu Deinem Vorschlag das per LLM zu verbessern?

 

[AndreasF1975]

Es gibt viele Dinge in meinem Beruf die ich nicht weiß.

Genau deshalb würde der Einsatz von KI ja Sinn machen.

Ich mag ja altmodisch sein. aber gerade da sehe ich die KI nicht als Ersatz zu einem Studium von Quellen wie Bücher, Fachartikel und Erfahrungen von älteren Kollegen.

 

[Joker_AUT]

Ich sehe hier ein paar grundlegende Probleme und Themen

1) berufliche Nutzung --> definitiv keine Schnellschüsse selbst machen, dass muss mit der IT oder dem Vorgesetzten abgeklärt werden, ansonsten gibt das sehr schnell gravierende rechtliche Probleme für dich und die Firma

2) Du darfst dich, vor allem beruflich, niemals blind auf das verlassen, was dir eine KI ausspuckt. Du musst das Ergebnis immer selbst prüfen und dafür sollte man vom Sachverhalt schon Ahnung haben. Daher sehe ich den von dir genannten Einsatz mit vertraulichen Kundendaten besonders schwierig.

3) KI lokal laufen lassen erfordert sowohl starke und teure Hardware als auch das Hintergrundwissen, dass ganze auch warten und supporten zu können. Beides ist bei dir in der Firma (nach aktuellem Kenntnisstand hier) nicht vorhanden

Ein paar Fragen, um das ganze etwas lösungsorientierter einordnen zu können:

Darf man fragen, was du beruflich machst?
Gibt es bei dir in der Firma IT Ansprechpersonen?
Ist vielleicht schon entsprechende Hardware vorhanden oder reden wir hier wirklich nur von normalen Arbeitslaptops?
Habt ihr in der Firma Schulungen bezüglich KI Umgang?

Der Hinweis mit M365 und Copilot ist definitiv eine Option, wir dürfen den auch für Firmeninterna (einer der größten öffentlichen Arbeitgeber in Österreich) verwenden. Da ist aber eine ganze Armada an Leuten aus der IT Abteilung und Rechtsabteilung dahinter, damit das ganze gesetzeskonform ist.

 

[Stagefire85]

Also nur mal zu Klarstellung, um was es mir bei dem Beispiel mit den Arztunterlagen geht.

Ich bin selbstständiger Versicherungsmakler.

Das mit dem Arztbericht war einfach ein Beispiel, wo ich KI in meinem Beruf sinnvoll einsetzen kann.
Kunde schickt mir den Entlassungsbericht vom Krankenhaus.
Ich verstehe natürlich nicht alle Diagnosen die da drauf stehen, da ich kein Mediziner bin.
Da hilft mir die KI, das eins Deutsche zu Übersezten.
Z.B. Liebe KI. Sag mir, ob der Kunde einen vollständigen Knochenbruch hat.
Das hilft mir zu erkennen, ob er Anspruch auf Leistung aus seiner Unfallversicherung hat.

Da gibts natürlich noch viele andere Bereiche. Aber das soll nur ein Beispiel sein.

 

[Joker_AUT]

Ok, das klärt so manches, aber nicht alles.

Also keine IT Abteilung und keiner mit Fachwissen diesbezüglich.
Von daher kann man von einer lokalen KI nur abraten, da das nicht sinnvoll umsetzbar wäre (sehr teuer und nicht gerade unkompliziert).

Bliebe noch der Weg zu einer KI im Internet, da bin ich aber raus mit Ratschlägen, das wäre mir mit so sensiblen Kundendaten viel zu heikel. Du musst dir da ja auch die Erlaubnis von den Kunden einholen, dass du das machst und die KI darf diese Daten nicht speichern und zum Training nutzen und so weiter...
(Ich würde meinen Makler wechseln, wenn er meine vertraulichen Daten in eine KI wirft, egal welche und egal ob lokal oder nicht)

Ich würde dir empfehlen bei der Innung oder dem Verband oder was weiß ich, was es da in Deutschland für Versicherungsmakler gibt, nachzufragen, ob es da eine Lösung gibt, welche auch rechtlich gedeckt ist.

Und der Punkt mit der Kontrolle deinerseits bleibt immer, egal ob lokal oder im Netz. Verlasse dich niemals auf die KI, immer prüfen was da raus kommt. So gut sind die Dinger leider (oder vielleicht zum Glück) noch nicht.

 

[Stagefire85]

Von daher kann man von einer lokalen KI nur abraten, da das nicht sinnvoll umsetzbar wäre (sehr teuer und nicht gerade unkompliziert).

Genau das war eigentlich meine Frage.

Mir ist natürlich klar, dass ich solche Daten nicht ins Netz hochladen darf.
Daher die Idee mit der lokalen KI.

Hätte ja sein können, dass es da fertige Programme gibt, mit denen man dann eine KI auf dem eigenen Rechner nutzen kann und die Daten dort dann auch bleiben.