Alles rund um AI, Chat GPT usw.

[Knolle]

Naja, ist ja auch durch den AI act geregelt, als Systeme der Kategorie 3.
Im Bereich Pharma kann es zB die Automatisierung von Unterschriftenerkennung bei GxP relevanter Dokumentation sein.

[Barbellmonkey]

Naja, ist ja auch durch den AI act geregelt, als Systeme der Kategorie 3.
Im Bereich Pharma kann es zB die Automatisierung von Unterschriftenerkennung bei GxP relevanter Dokumentation sein.

Und dann kommt noch die GAMP 5 Klassifizierung inkl. mörder Validierungsaufwand, falls überhaupt validierbar.

Unterschriftenerkennnung wird gehen, aber da sehe ich bei uns speziell z.B. keinen Nutzen.

[Knolle]

Naja, Prüfberichte aus dem Pharmabereich, die unterzeichnet und die Unterschrift geprüft werden müssen, da könnte die KI halt gucken, ob alles unterzeichnet ist und von der richtigen Person.
Gibt sicherlich noch ein paar andere Use cases, aber das ist schon hart reguliert.
Man könnte vielleicht das Testing von GxP relevanten IT Systemen automatisieren

[Barbellmonkey]

Naja, Prüfberichte aus dem Pharmabereich, die unterzeichnet und die Unterschrift geprüft werden müssen, da könnte die KI halt gucken, ob alles unterzeichnet ist und von der richtigen Person.
Gibt sicherlich noch ein paar andere Use cases, aber das ist schon hart reguliert.
Man könnte vielleicht das Testing von GxP relevanten IT Systemen automatisieren

Wenn die Prüfberichte elektronisch unterschrieben werden, dann kann das das System ja direkt prüfen ob alle Unterschriften vorhanden sind. Bzw. Sollten ja nur berechtige Personen unterschreiben können. Da werde ich doch kein zweites System einsetzen.

Bei handschriftlichen Dokumenten müsste ich nach dem Einscannen ja erstmal prüfen, ob das gescannte Dokument auch dem Original entspricht. Da kann ich das auch direkt prüfen.

Mir fällt da kein sinnvoller Use-Case ein

[Knolle]

Müsste man sich im Detail mal anschauen, aber hängt halt auch vom Prozess ab aber sollten wir nicht zu sehr OT werden lassen. Pharma wird sicher ne Herausforderung sein.

[husefak]

Irgendwann (bald) wird es sicher Agentic AI auch für Pharma geben. Das LLMs da nicht so nützlich sind is klar.

Aber Monitoring in der Herstellung, QA, etc.pp. kann eine Software mit passenden Sensoren und hinterlegten Prozessen viel besser als ein Mensch. Jegliche Regelung/Steuerung technischer Vorgänge eigentlich.

[Lauch]

Oder das Model das falsche war oder der Input nicht perfekt oder oder oder...

Es gibt nicht die KI und deshalb kann auch nicht die KI fehlerhaft sein

Es ist ja auch nicht "das Internet" schuld, dass mein Opa nicht googeln kann. Also außer für ihn natürlich

Es hatte die gesamte Seite (also das HTML und den Link) sowie alle weiteren relevanten Infos wie CD usw. bzw. stehen die natürlich auch schon im Quelltext.
Natürlich kann es sein dass ich besser prompten könnte, aber nach 10 Versuchen könnte es schon mal einen Code ausspucken, der es schafft, einen Pfeil durch eine Prozentangabe relativ zum Container mittig zu platzieren und nicht immer noch durch Pixel und daneben lol...

Sehe darüber hinaus nicht, wo ich "KI ist fehlerhaft" schreibe, KI verallgemeinere oder überhaupt von KI spreche, GPT wurde ja klar genannt

Das Problem scheint einfach die mangelnde "Vorstellungskraft" zu sein bezüglich des Sinns der ganzen Sache hinsichtlich UX. Bestimmt gibt es speziell trainierte Modelle nur für CSS oder sogar nur für ganz spezifische Anwendungsfälle, aber ich fand es für so einen simplen Fall einfahc nicht besonders überzeugend.

Es scheint doch mittlerweile ziemlich klar zu sein, dass AIs tendenziell die Produktivität von Software-Entwicklern senkt und nicht steigert.
Ich habe für mich den Mittelweg gefunden, dass ich etwas von ChatGPT 4.1 (ist für mich im Alltag das praktischste Modell von OpenAI) bzw. demnächst Gemini 2.5 Pro (schneidet in Benchmarks besser ab, kostet gleich viel aber die 2TB Drive Speicherplatz im Abo kommen mir ganz gelegen) draften lasse und dann übernehme ich selbst.
Also die Anforderungen an die Kompetenz von Entwicklern ist identisch wie davor und je mehr man versucht die Arbeit von AI erledigen zu lassen, desto mehr kämpft man mit der AI anstatt seine Arbeit zu machen.
Dass man es nichtmal schafft, mit modernen und weit verbreiteten Frameworks einen Code zu produzieren, der einfach passt ist halt nicht so geil. Also in meinem Fall Spring Boot und Angular, das ist ja wohl kompletter Standard. Egal wie gut man den Prompt darauf optimiert, was man verwendet, es kommt meistens irgendetwas raus, was schon lange überholt ist, vermutlich differenziert das Modell halt nicht zwischen dem, was heutzutage gemacht wird und was 2016 gemacht wurde.
Für die richtigen Lösungen muss man dann die AI schon aggressiv mit den konkreten Lösungsansätzen zuballern und dann kann man es gleich selbst machen. Dann erspart man sich die Konversationen der Art:

AI: "Hier ist eine Lösung die genau das macht, was du willst und super wartbar ist!"
Programmierer: "Ähh, so geht das aber nicht"
AI: "Ah, da bist du mal wieder einem üblichen Fehler auf den Leim gegangen, natürlich ist deine Lösung falsch, jetzt erkläre ich dir die Welt"
Programmierer: "Fuck off"




Im Falle von CSS: ChatGPT versucht lieber die wildesten Flex-Hacks, die auch nach dem 100. mal falsch sind anstatt selbst auf die Idee zu kommen, ein Grid zu verwenden. Und dann erklärt man ChatGPT erstmal, wie es das Grid verwenden soll.

[clayz]

Für gute Programmierer sicherlich zutreffend. Dinge, die aber sonst irgendwelche Junior Consultants machen oder Dinge wie Testszenarien, Debugging oder Dokumentation kosten einfach nur Zeit und in den meisten Fällen ist hier die AI gut unterwegs.

Der Irrglaube, dass AI die Spitze ersetzen will, hält sich sowieso hartnäckig. Ist der typische Programmierer bzw Ingenieur Mindset.

Die Kollegen bei mir fragen ständig KI Helferlein für die letzen 5 % bei Fall X an, obwohl sie Routineaufgabe Y komplett manuell machen und hier sehr fix von 0% auf 80% kommen könnten.

[husefak]

Oder das Model das falsche war oder der Input nicht perfekt oder oder oder...

Es gibt nicht die KI und deshalb kann auch nicht die KI fehlerhaft sein

Es ist ja auch nicht "das Internet" schuld, dass mein Opa nicht googeln kann. Also außer für ihn natürlich

Es hatte die gesamte Seite (also das HTML und den Link) sowie alle weiteren relevanten Infos wie CD usw. bzw. stehen die natürlich auch schon im Quelltext.
Natürlich kann es sein dass ich besser prompten könnte, aber nach 10 Versuchen könnte es schon mal einen Code ausspucken, der es schafft, einen Pfeil durch eine Prozentangabe relativ zum Container mittig zu platzieren und nicht immer noch durch Pixel und daneben lol...

Sehe darüber hinaus nicht, wo ich "KI ist fehlerhaft" schreibe, KI verallgemeinere oder überhaupt von KI spreche, GPT wurde ja klar genannt

Das Problem scheint einfach die mangelnde "Vorstellungskraft" zu sein bezüglich des Sinns der ganzen Sache hinsichtlich UX. Bestimmt gibt es speziell trainierte Modelle nur für CSS oder sogar nur für ganz spezifische Anwendungsfälle, aber ich fand es für so einen simplen Fall einfahc nicht besonders überzeugend.

Es scheint doch mittlerweile ziemlich klar zu sein, dass AIs tendenziell die Produktivität von Software-Entwicklern senkt und nicht steigert.
Ich habe für mich den Mittelweg gefunden, dass ich etwas von ChatGPT 4.1 (ist für mich im Alltag das praktischste Modell von OpenAI) bzw. demnächst Gemini 2.5 Pro (schneidet in Benchmarks besser ab, kostet gleich viel aber die 2TB Drive Speicherplatz im Abo kommen mir ganz gelegen) draften lasse und dann übernehme ich selbst.
Also die Anforderungen an die Kompetenz von Entwicklern ist identisch wie davor und je mehr man versucht die Arbeit von AI erledigen zu lassen, desto mehr kämpft man mit der AI anstatt seine Arbeit zu machen.
Dass man es nichtmal schafft, mit modernen und weit verbreiteten Frameworks einen Code zu produzieren, der einfach passt ist halt nicht so geil. Also in meinem Fall Spring Boot und Angular, das ist ja wohl kompletter Standard. Egal wie gut man den Prompt darauf optimiert, was man verwendet, es kommt meistens irgendetwas raus, was schon lange überholt ist, vermutlich differenziert das Modell halt nicht zwischen dem, was heutzutage gemacht wird und was 2016 gemacht wurde.
Für die richtigen Lösungen muss man dann die AI schon aggressiv mit den konkreten Lösungsansätzen zuballern und dann kann man es gleich selbst machen. Dann erspart man sich die Konservationen der Art:

AI: "Hier ist eine Lösung die genau das macht, was du willst und super wartbar ist!"
Programmierer: "Ähh, so geht das aber nicht"
AI: "Ah, da bist du mal wieder einem üblichen Fehler auf den Leim gegangen, natürlich ist deine Lösung falsch, jetzt erkläre ich dir die Welt"
Programmierer: "Fuck off"




Im Falle von CSS: ChatGPT versucht lieber die wildesten Flex-Hacks, die auch nach dem 100. mal falsch sind anstatt selbst auf die Idee zu kommen, ein Grid zu verwenden. Und dann erklärt man ChatGPT erstmal, wie es das Grid verwenden soll.

Shit in, shit out. Die wurden wsl. nur mit stackoverflow und Reddit gefüttert.

[husefak]

Für gute Programmierer sicherlich zutreffend. Dinge, die aber sonst irgendwelche Junior Consultants machen oder Dinge wie Testszenarien, Debugging oder Dokumentation kosten einfach nur Zeit und in den meisten Fällen ist hier die AI gut unterwegs.

Der Irrglaube, dass AI die Spitze ersetzen will, hält sich sowieso hartnäckig. Ist der typische Programmierer bzw Ingenieur Mindset.

Die Kollegen bei mir fragen ständig KI Helferlein für die letzen 5 % bei Fall 1 an, obwohl sie Routineaufgabe Y komplett manuell machen und hier sehr fix von 0% auf 80% kommen könnten.

Öhm, nein. Das taugt nicht mal für 80%. Unsere Devs sind voll ernüchtert und nutzen das Vibe Coding Plugin nur noch als besseres Autovervollständigen.

Du kannst echt nur als Unwissender völlig banalen Code erzeugen lassen, den du normal mit Voodoo Programming erzeugen würdest.

[Lauch]

Für die Standard-Sachen hat man halt in der Realität oft das Problem, dass man den Code nicht beliebig ins Internet füttern darf. Ist natürlich super, wenn eine Firma da ganz offen ist oder gleich ein gutes LLM selbst betreibt. Aber bei meinen Kunden ist es halt immer ein No-Go, keine Bank möchte es, dass man Teile des Corebankings erstmal an OpenAI schickt, als Beispiel. Alles davor irgendwie zu anonymisieren geht natürlich schon, ist aber halt auch wieder extra Arbeit.

[clayz]

Für gute Programmierer sicherlich zutreffend. Dinge, die aber sonst irgendwelche Junior Consultants machen oder Dinge wie Testszenarien, Debugging oder Dokumentation kosten einfach nur Zeit und in den meisten Fällen ist hier die AI gut unterwegs.

Der Irrglaube, dass AI die Spitze ersetzen will, hält sich sowieso hartnäckig. Ist der typische Programmierer bzw Ingenieur Mindset.

Die Kollegen bei mir fragen ständig KI Helferlein für die letzen 5 % bei Fall 1 an, obwohl sie Routineaufgabe Y komplett manuell machen und hier sehr fix von 0% auf 80% kommen könnten.

Öhm, nein. Das taugt nicht mal für 80%. Unsere Devs sind voll ernüchtert und nutzen das Vibe Coding Plugin nur noch als besseres Autovervollständigen.

Du kannst echt nur als Unwissender völlig banalen Code erzeugen lassen, den du normal mit Voodoo Programming erzeugen würdest.

Ich sagte für 80% banaler Tätigkeiten, nicht für 80% deiner Arbeit.

[clayz]

Für die Standard-Sachen hat man halt in der Realität oft das Problem, dass man den Code nicht beliebig ins Internet füttern darf. Ist natürlich super, wenn eine Firma da ganz offen ist oder gleich ein gutes LLM selbst betreibt. Aber bei meinen Kunden ist es halt immer ein No-Go, keine Bank möchte es, dass man Teile des Corebankings erstmal an OpenAI schickt, als Beispiel. Alles davor irgendwie zu anonymisieren geht natürlich schon, ist aber halt auch wieder extra Arbeit.

Was ja kein Defizit des LLMs an sich ist. Wir haben eine hauseigene Lösung und ich bin überzeugt, dass es immer sicherheitstechnische Ausnahmen geben wird. Banking, Pharma oder auch Militär sind Bereiche, in denen auch jetzt teilweise 20 Jahre alte Technik nicht verwendet werden darf, weil die Sicherheitsstandards jeglichen digitalen Support kaum/nicht zulassen.

[Comeback_Kid]

Ich hatte in meinem MBA (der ja KI Fokus hatte) einen von Boheringer Ingelheim dabei und der meinte auch ständig "echt cool, aber bei uns aufgrund von Sicherheit / Compliance usw. sowieso nicht in dem Tempo umsetzbar" - hat mich ehrlich gesagt etwas von der Pharma-Branche abgeschreckt. Mir ist vieles im Industrie-Konzern schon viel zu langsam.

Gilt das auch für US-Pharma?
Wäre jetzt davon ausgegangen, dass diese Branche ganz vorne dran ist aufgrund der Forschungsarbeit und dem vielen Zahlenwerk/Studien etc..