Expert Panel: Quality Control Frameworks for AI – AI in Pharma 2026

Jak zapewnić jakość, wiarygodność i bezpieczeństwo systemów sztucznej inteligencji w środowiskach przemysłowych i farmaceutycznych? Temu zagadnieniu poświęcony był panel ekspercki „Quality Control Frameworks for AI”, zorganizowany w ramach konferencji AI in Pharma 2026, przygotowanej przez ISPE Poland Affiliate we współpracy z Akademią Górniczo-Hutniczą (AGH).

Dyskusja koncentrowała się na praktycznych wyzwaniach związanych z zapewnieniem jakości systemów AI, szczególnie w kontekście ich coraz szerszego zastosowania w inżynierii i procesach o krytycznym znaczeniu.

Wśród najważniejszych zagadnień znalazły się:

problemy jakościowe charakterystyczne dla różnych metod sztucznej inteligencji;

kontrola i nadzór nad środowiskami agentowymi (AI agent environments);

sposoby zapobiegania kaskadowemu rozprzestrzenianiu się błędów w systemach AI;

zjawisko collusion of agents – współdziałanie agentów AI prowadzące do niepożądanych rezultatów – oraz metody ograniczania związanego z nim ryzyka;

wykorzystanie AI w systemach krytycznych, gdzie niezawodność, bezpieczeństwo i możliwość weryfikacji działania mają szczególne znaczenie.

W panelu udział wzięli eksperci reprezentujący różne perspektywy i doświadczenia zawodowe:

Rafał Buczek – Rescop

Wojciech Siemiątkowski – Shodann, CTO 

Ross Wareing – ProductLife Group (PLG)

Paweł Zawadzki – Amazon Web Services (AWS)

Prof. Jarosław Wąs – Akademia Górniczo-Hutnicza (AGH), Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej (WEAIIB), Katedra Informatyki i Sztucznej Inteligencji

Panel przerodził się w żywą i angażującą dyskusję, w której aktywnie uczestniczyli również przedstawiciele publiczności, kierując do ekspertów pytania i dzieląc się własnymi spostrzeżeniami.

Poruszone tematy pokazały, że wdrażanie AI w inżynierii to nie tylko ogromne możliwości optymalizacji i rozwoju, ale również konkretne wyzwania związane z jakością, nadzorem, bezpieczeństwem i odpowiedzialnością. Szczególnie istotne staje się zatem budowanie odpowiednich ram kontroli, które pozwolą w pełni wykorzystywać potencjał AI, jednocześnie ograniczając ryzyko związane z jej zastosowaniem.

Dziękujemy panelistom za merytoryczną dyskusję, a uczestnikom konferencji za aktywny udział i inspirujące pytania!