Mentionsy

Słuchasz audycji Kampus Nauka.

Odkrycia, badania i teorie podajemy w przystępnej formie w poniedziałki, środy i piątki o 13.

Podoba Ci się?

Daj znać, zasubskrybuj i zaobserwuj Radio Kampus.

Algorytmy sztucznej inteligencji przebojem można powiedzieć weszły na rynek i w zasadzie no kto z nas jeszcze nie pisał czegoś w jakimś duży nie pisał sobie czegoś z jakimś dużym modelem językowym czy nie generował sobie jakiejś grafiki po cokolwiek byłoby mu potrzebna no ale

Sztuczna inteligencja jest znacznie szerzej i wchodzi też w takie specjalistyczne branże jak np.

medyczna, o której porozmawiamy sobie już teraz z doktor Dominiką Harasimiuk z Wydziału Nauk Politycznych i Studiów Międzynarodowych z Katedry Prawa i Instytucji Europejskich.

Dzień dobry.

Dzień dobry.

To jak to jest z tymi algorytmami?

Czy też tak można było obserwować takie lawinowe wejście tych algorytmów do branży medycznej?

Czy też tam z racji tej specjalizacji trochę to poszło inaczej?

Dzień dobry Państwu.

Jak najbardziej medycyna jest tym obszarem, w którym obecność algorytmów sztucznej inteligencji jest niezwykle widoczna.

Czy lawinowo wchodzą?

No to jest pytanie trudne, dlatego że sektor medyczny jest sektorem bardzo mocno regulowanym.

I oczywiście kwestia wejścia i dostępności na rynek różnych rozwiązań technologicznych

Jest poddawana pewnym regułom prawnym warunkującym dostępność i tak naprawdę legalność tego rodzaju wyrobów.

Ale bez wątpienia już teraz można powiedzieć, że algorytmy sztucznej inteligencji w medycynie są wykorzystywane na mnóstwo różnych sposobów.

Od diagnostyki, zwłaszcza w obrazowaniu, tutaj algorytmy sztucznej inteligencji wykazują bardzo dużą precyzyjność, dużo większą często precyzyjność w interpretowaniu różnego rodzaju zdjęć, skanów.

Czyli możemy na przykład wprowadzić takie zdjęcie rentgenowskie do algorytmu i on będzie w stanie lepiej, powiedzmy niż radiolog, znaleźć jakieś różne wzorce.

Tak, czy właśnie wyniki skanów tomografii, czy rezonansu magnetycznego.

Więc tutaj chociażby właśnie w tym obszarze jest to mocno wykorzystywane.

Oczywiście robotyka to też zastosowania oparte na algorytmach.

Dzisiaj w medycynie jest to coraz bardziej też powszechne.

Ale także w ogóle w zakresie

Systemu ochrony zdrowia i jeśli chodzi o zarządzanie danymi medycznymi.

Tutaj też oczywiście algorytmy pomagają bardzo w zarządzaniu w ogóle ochroną zdrowia.

Też w medycynie ratunkowej często się mówi o tym, że algorytmy tutaj też są pomocne na przykład w tym triażu medycznym i ocenianiu

Skali różnego rodzaju obrażeń, jeśli chodzi o pacjentów.

Właśnie od diagnostyki, poprzez terapię, profilaktykę.

Pod tym względem medycyna myślę, że bardzo mocno zaczyna opierać się na rozwiązaniach algorytmicznych.

To Pani opowiadała dużo o takich algorytmach, powiedzmy, pomocniczych trochę dla lekarza.

To znaczy jest się radiologiem i masz jeden dodatkowy algorytm, który może zweryfikować to zdjęcie.

A czy na przykład już teraz medycyna zaczyna wkroczyć trochę w tę stronę, którą sobie pewnie wyobrażamy na podstawie wielu filmów, że już nie jedziemy powiedzmy do lekarza, tylko włączamy sobie stronę internetową, podpinamy sobie gdzieś tam palec i chatbot powiedzmy będzie w jakiś sposób nam mówił, co nam jest.

Ja myślę, że jeszcze takich rozwiązań konkretnie ogólnodostępnych w Europie jest stosunkowo mało, ale to na pewno jest przyszłość.

Właśnie ta zmiana paradygmatu relacji między pacjentem a lekarzem, ona już jest widoczna i to niekoniecznie musiało się stać przy pomocy sztucznej inteligencji, bo my sami mamy tendencję do tego, żeby

Jak coś nam dolega, to najpierw sprawdzić w Google, co to są za objawy i w jaki sposób możemy sobie z nimi poradzić.

I często jest tak, że idziemy do lekarza z jakąś tam gotową naszą autodiagnozą.

Więc ta rzeczywistość już zaczyna tak wyglądać.

I teraz algorytmy i różnego rodzaju rozwiązania są tworzone po to, żeby tego rodzaju

Tak naprawdę stan rzeczy, z którym mamy do czynienia był oparty na bardzo rzetelnych, godnych zaufania mechanizmach algorytmicznych, czyli nie już sama wyszukiwarka Google'a i nasza jakaś tam intuicja.

Ale żeby stworzyć narzędzia, które przy pomocy generatywnej sztucznej inteligencji będą przynajmniej w jakichś takich prostych schorzeniach, z którymi zwykle byśmy poszli pewnie do lekarza ogólnego czy lekarza rodzinnego, to algorytm mógłby tutaj rzeczywiście dostarczyć pewnych

Rozwiązań, które nie byłyby jakoś pozbawione sensu, a byłyby jak najbardziej wiarygodne, rzetelne i przede wszystkim bezpieczne dla pacjenta.

Bo tutaj to jest najważniejsze.

Co więc zrobić od takiej prawnej strony?

Jak to uregulować w ogóle cały ten rynek, żeby te wchodzące algorytmy działały faktycznie z korzyścią dla pacjentów i lekarzy?

Znaczy są już pewne mechanizmy regulacyjne, które są obecne w Unii Europejskiej przede wszystkim, a co za tym idzie w państwach członkowskich Unii Europejskiej, bo na tym się jednak w mojej też pracy naukowej koncentruję.

To też nie jest łatwy obszar dlatego, że mamy szereg różnych regulacji prawnych.

Część z tych regulacji prawnych już od pewnego czasu obowiązuje i mają charakter taki powiedziałabym nakierowany właśnie na wyroby medyczne.

Chodzi tutaj o rozporządzenie Unii Europejskiej dotyczące wyrobów medycznych z 2017 roku.

I to jest, można powiedzieć, taka konstytucja dla wyrobów medycznych, dla sektora wyrobów medycznych.

W jaki sposób wyroby medyczne klasyfikować.

Ta klasyfikacja jest oparta na ryzyku.

Im niższe ryzyko, tym, można powiedzieć, łagodniejsze mechanizmy regulacyjne.

Im wyższe ryzyko, tym trudniej wprowadzić taki wyrób medyczny na rynek.

Te najniższe to

Mogą być takie wyroby medyczne jak np.

pasta do zębów czy bandaż, a najwyższe to oczywiście implanty, różne stenty, protezy biodrowe i tym podobne.

I gdzieś po środku mamy szereg wyrobów medycznych, które stanowią pewne ryzyko, takie średnie ryzyko albo trochę wyższe średnie ryzyko.

I one też są poddawane pewnym wymogom regulacyjnym.

Więc to jest pierwszy obszar taki można powiedzieć sektorowy.

Czyli wiadomo, że każdy wyrób medyczny, który jest produkowany

Czy algorytmy AI będą nas leczyły?

Oprócz tego, i tu już mamy obszar algorytmiczny, w ubiegłym roku przyjęte zostało nowe rozporządzenie unijne dotyczące sztucznej inteligencji.

To jest taki akt prawny unijny, który chyba ma w tym momencie największą taką sławę gdzieś w obiegu, czyli akt sztucznej inteligencji.

I to jest rozporządzenie, które ma charakter, można powiedzieć, horyzontalny.

Czyli niezależnie od sektora, w jakim się poruszamy, ma za zadanie uregulować zasady wprowadzania wyrobów algorytmicznych na rynek unijny.

Ten akt też jest oparty na podziale na różne kategorie ryzyka.

Natomiast nie jest nakierowane wyłącznie na jakiś jeden sektor, ale dla wyrobów medycznych ma duże znaczenie.

To znaczy wyroby medyczne ze względu na swoje potencjalne zagrożenia dla zdrowia ludzkiego,

W świetle tego rozporządzenia aktu o sztucznej inteligencji są traktowane jako tak zwane rozwiązania algorytmiczne wysokiego ryzyka i one też podlegają pewnym bardzo już surowym wymogom regulacyjnym, o tyle o ile

Rozporządzenie o wyrobach medycznych, ono już obowiązuje od jakiegoś czasu i mniej więcej ugruntowane są tutaj zasady, to w przypadku aktu sztucznej inteligencji znajdujemy się w okresie jeszcze takim przejściowym.

Akt został przyjęty w ubiegłym roku, wszedł w życie w sierpniu ubiegłego roku, ale tak naprawdę jego pełna skuteczność zostanie osiągnięta dopiero w przeciągu kolejnego roku, a nawet dwóch lat.

I w tej końcowej fazie będzie to wyglądało w ten sposób, że jeżeli mamy producenta wyrobów medycznych,

To on będzie wiedział, że musi spełnić nie tylko wymogi, które wynikają z rozporządzenia o wyrobach medycznych, ale też dla tej części algorytmicznej będzie musiał spełnić szereg kryteriów, które wynikają z aktu o sztucznej inteligencji.

Niektóre z nich się gdzieś tam zazębiają.

Jeśli chodzi o takie kwestie związane z zarządzaniem ryzykiem, zapewnieniem pewnych mechanizmów

Ale niektóre będą dosyć specyficzne i będą wynikały właśnie z aktu o sztucznej inteligencji i będą bardzo mocno też powiązane z wymiarem etycznym, dlatego że akt o sztucznej inteligencji, przynajmniej w takim ogólnym założeniu,

Miał za zadanie troszeczkę skodyfikować pewne ogólne zasady etyczne, które powinny być brane pod uwagę przy stosowaniu i wprowadzaniu do obrotu wyrobów opartych na rozwiązaniach algorytmicznych.

Po to, żeby zapewnić godną zaufania sztuczną inteligencję i taką sztuczną inteligencję w Unii Europejskiej, która będzie stawiała człowieka w centrum, czyli będzie humanocentryczna.

To są dwie najważniejsze zasady, którymi kierowali się prawodawcy unijni, właśnie to godne zaufanie i humanocentryczność.

A udało się?

Tak pytam dosyć szeroko, bo zarówno mam na myśli to, czy te prawo trochę nadąża za rozwojem sztucznej inteligencji i też z drugiej strony, czy to, co często ludzie bardziej technologicznie zainteresowani mówią, że czy nie będzie jej zbyt hamować?

To jest świetne pytanie.

Właściwie te obydwa pytania są świetne, bo pierwsze pytanie o to, czy się udało, czy regulacja nadąża.

Tu odpowiedź jest chyba taka, że nigdy regulacja nie nadąża.

Znaczy regulacja zawsze do tej pory jest odpowiedzią na rzeczywisty stan rzeczy i trochę tak się stało też w przypadku aktu o sztucznej inteligencji.

Natomiast ambicje są takie, żeby no jednak mimo wszystko ten akt miał ten taki długotrwały skutek.

Bez wchodzenia tutaj też w szczegóły są przewidziane w tym akcie pewne rozwiązania, które mają dosyć szybko

Pozwalać na dostosowywanie pewnych rozwiązań regulacyjnych do zmieniających się, postępujących tutaj rozwiązań technologicznych.

Natomiast trzeba pamiętać, że w przypadku aktu sztucznej inteligencji, ta druga część pana pytania, czyli czy to nie hamuje tej innowacyjności, to jest wielkie zagadnienie w Unii Europejskiej.

To, że w ogóle Unia Europejska się zabrała za uregulowanie algorytmów sztucznej inteligencji samo w sobie już jest czymś takim można powiedzieć wyjątkowym, zwłaszcza w obliczu tego, co się dzieje w Stanach Zjednoczonych czy w Chinach, gdzie tych rozwiązań takich regulacyjnych jest stosunkowo niewiele.

Dzisiaj Donald Trump mówi o tym, że w ogóle

Trzeba uwolnić tutaj sektor nowych technologii od jakichkolwiek ograniczeń regulacyjnych.

Natomiast w przypadku Unii Europejskiej, Unia ma ambicje po pierwsze w zapewnienia właśnie takich rozwiązań, które będą

Budowały zaufanie bez nadmiernego hamowania innowacyjności.

Czy to się uda?

Myślę, że będziemy w stanie ocenić dopiero wtedy, kiedy te rozwiązania rzeczywiście wejdą w pełnym zakresie w życie.

Zapowiedziałem trochę, że pracuje Pani przy projekcie Realm, który te tematy szeroko rzecz ujmując adresuje, więc oddałbym Pani głos w tej kwestii.

Czym zajmuje się ten projekt i co Państwo chcieliby ustalić w jego toku?

Projekt REALM jest projektem finansowanym ze środków Komisji Europejskiej w ramach programu badawczego Horizon Europe.

Mam wielką przyjemność i przywilej w ogóle uczestniczyć w pracach konsorcjum.

Konsorcjum, które składa się z 15 partnerów, z czego mniej więcej

Nie chcę powiedzieć połowa, ale chyba tak, połowa to są podmioty akademickie, uniwersytety, instytuty badawcze, a część partnerów to są firmy, często start-upy, często spin-offy, które działają w ramach uniwersytetów, tworzące pewne rozwiązania algorytmiczne w obszarze medycyny.

Projekt jest skierowany przez Uniwersytet Maastricht.

Ja odpowiadam w projekcie za grupę roboczą zajmującą się właśnie etycznymi, prawnymi i społecznymi skutkami głównych zadań w projekcie.

O co tak naprawdę chodzi w projekcie?

W projekcie chodzi o...

Stworzenie pewnych narzędzi, które pomogą oceniać jakość rozwiązań algorytmicznych stosowanych w wyrobach medycznych.

Chodzi o stworzenie pewnego narzędzia, dzięki któremu dostawca takich wyrobów medycznych opartych na algorytmach sztucznej inteligencji

Będzie mógł później uzyskać trochę łatwiejszą ścieżkę w przypadku rejestracji i uregulowania wyrobów medycznych i ich wprowadzenia na rynek unijny.

Więc chodzi o to, żeby tak naprawdę wyrób medyczny, który jest poddawany ocenie przed wprowadzeniem do obrotu,

Był weryfikowany pod kątem pewnych najważniejszych wymogów etycznych i regulacyjnych jednocześnie, etycznych i prawnych.

Jakie to są wymogi?

No przede wszystkim kwestia braku dyskryminacji, uczciwości tych rozwiązań.

I pozbawienie jakichkolwiek uprzedzeń.

W języku angielskim jest takie słowo bias i to jest właśnie jeden z najważniejszych wymogów regulacyjnych, żeby algorytmy sztucznej inteligencji w swoich tak naprawdę rezultatach, które nam są dostarczane, były pozbawione jakichkolwiek uprzedzeń.

Czy to są uprzedzenia związane z płcią, czy z pochodzeniem etnicznym, rasowym, religijnym.

Żeby były jak najbardziej uczciwe i przejrzyste pod tym względem.

Więc przede wszystkim właśnie element braku dyskryminacji i równości w tych rezultatach.

Po drugie dokładność i taka pewność tych rozwiązań.

Kwestia również wyjaśnialności i to jest ogromne wyzwanie, żeby zwłaszcza w przypadku wyrobów medycznych było wiadomo w jaki sposób algorytm doszedł do pewnego rozwiązania i do podjęcia pewnej decyzji, która później może być zastosowana przez lekarza.

Ta wyjaśnialność jest zjawiskiem bardzo, bardzo skomplikowanym.

Im bardziej zaawansowane algorytmy oparte na sieciach neuronowych, tym trudniej osiągnąć taką wyjaśnialność.

No tak znamy te czarne skrzynki, w których coś się wrzuca, coś się wyrzuca.

Jest tutaj absolutnie ten paradoks czarnej skrzynki i to, że jeżeli taki wyrób medyczny oparty jest właśnie na tego rodzaju technologii, on co prawda daje większą dokładność bardzo często, ale z drugiej strony cierpi na tym ta wyjaśnialność.

A czy państwo będą analizować takie poziomy, podstawy techniczne tych urządzeń?

Czy to będą jakieś takie testy dla tych algorytmów?

Przede wszystkim jest to związane właśnie z tą oceną technologii, samej technologii, nie oceną regulacyjną, to znaczy sprawdzenie czy są przygotowane w odpowiedni sposób dokumenty, bo wiadomo, że regulacje rządzą się swoimi biurokratycznymi prawami, ale przede wszystkim chodzi o to, żeby sprawdzić tą technologię, która stoi za danym wyrobem medycznym.

I będzie chodziło o to, żeby producent mógł zadeklarować, że jego wyrób medyczny w takim a takim zakresie jest pozbawiony uprzedzeń, jest dokładny, jest transparentny, bezpieczny.

I poddać weryfikacji przy pomocy narzędzia, które jest tworzone w projekcie, czy rzeczywiście jego deklarowane parametry odpowiadają rzeczywistości.

W jaki sposób się to będzie odbywało?

Poprzez testowanie w oparciu o dane.

Projekt, jego innowatorski charakter polega na tym, że gromadzi pewien zasób danych i to zarówno danych rzeczywistych od pacjentów, które są gdzieś tam pobierane z różnych depozytoriów danych, które są sfederalizowane później w projekcie, ale też w oparciu o tzw.

To jest w ogóle wielki temat w obszarze medycyny i wyrobów medycznych zawierających sztuczne, opartych na algorytmach sztucznej inteligencji, żeby poszerzyć pulę dostępnych danych, dzięki którym takie wyroby mogą być weryfikowane i testowane.

Dane medyczne są danymi wrażliwymi, poddanymi bardzo surowym regulacjom prawnym wynikającym z rozporządzenia ogólnego dotyczącego ochrony danych osobowych, czyli RODO.

I ich zastosowanie wtórne w badaniach też jest bardzo często obwarowane szeregiem ograniczeń prawnych.

I żeby walczyć właśnie z tym dosyć ograniczonym dostępem do danych, tworzy się dane syntetyczne, które odpowiadają rzeczywistym cechom, parametrom np.

Ale nie niosą w sobie danych osobowych.

Ale nie zawierają w sobie danych osobowych.

Jeszcze na koniec bym Panią zapytał.

Za Realmem stoi duży międzynarodowy zespół złożony z różnych specjalistów.

Więc jak się Pani w ogóle pracuje w takim gronie od prawników przez lekarzy po informatyków czy matematyków po prostu?

No to jest ogromne wyzwanie.

Przede wszystkim z tego względu, że jednak nauki nie mówią do siebie tym samym językiem.

I my jako przedstawiciele szeroko pojętych nauk społecznych, bo mamy, tak jak mówiłam, w moim zespole roboczym

Mamy prawników, socjologów, etyków.

My się rozumiemy wewnątrz naszego pakietu roboczego, a nie zawsze to samo zrozumienie jest po drugiej stronie, czy te same pojęcia, którymi się posługujemy są jednakowo rozumiane, więc jest to duże wyzwanie, ale muszę powiedzieć, że generalnie współpracuje nam się bardzo dobrze.

I też w czerwcu na Uniwersytecie odbyło się doroczne spotkanie, konsorcjum.

Przyjechali wszyscy przedstawiciele ze wszystkich jednostek partnerskich.

I myślę, że takie spotkania zawsze też, takie spotkania na żywo bardzo pomagają.

Przy okazji Uniwersytet

Myślę, że zrobił ogromne wrażenie.

Główny kampus zawsze, zwłaszcza w tej porze roku jest takim pięknym miejscem, które myślę, że zachęciło naszych kolegów i koleżanki do tego, żeby właśnie na Uniwersytecie Warszawskim w przyszłości też może pracować przy okazji różnych projektów.

O algorytmach sztucznej inteligencji wykorzystywanych w medycynie opowiadała doktor Dominika Harasimiuk z Katadyry Prawa i Instytucji Europejskich w Działu Nauk Politycznych i Studiów Międzynarodowych.

Bardzo dziękuję za rozmowę.

Dziękuję bardzo.

Akademickie Radio Campus.