Koniec negocjacji w sprawie unijnego AI Act. Ostateczną treść poznamy za miesiąc.

Za nami ostatni odcinek negocjacji trójstronnych w sprawie unijnego rozporządzenia o sztucznej inteligencji. W dokumencie znalazły się obowiązkowe oceny ryzyka dla systemów należących do kategorii wysokiego ryzyka, prawo do skargi na działanie systemów AI i podwyższone standardy dla modeli podstawowych, o które walczyły organizacje społeczne. Szczegóły przyjętych rozwiązań poznamy dopiero za około miesiąc, kiedy opublikowana zostanie oficjalna wersja AI Act.

Przedstawiciele Parlamentu, Komisji Europejskiej i Rady Unii Europejskiej wypracowali konsensus po 36-godzinnym maratonie negocjacyjnym. O efekt pytamy prezeskę Fundacji Panoptykon Katarzynę Szymielewicz, która w ramach koalicji europejskich organizacji społecznych zabiegała o prawa ludzi w tworzonej regulacji.

– Nie jest dobrze, ale na pewno mogło być gorzej. Ochrona praw ludzi w ostatecznej wersji aktu jest słabsza niż to, co proponował Parlament Europejski w czerwcu, ale jest dużo lepsza niż w projekcie, który wyszedł z Komisji Europejskiej – ocenia Szymielewicz.

Od kwietnia 2021 r., kiedy Komisja Europejska ogłosiła swój projekt regulacji, organizacje społeczne w całej Europie walczyły o wydłużenie listy systemów zakazanych, doprecyzowanie kryteriów decydujących o tym, jaki system trafi do kategorii wysokiego ryzyka, a także realne obowiązki dla firm i instytucji wdrażających takie systemy.

– Najbardziej kontrowersyjne z punktu widzenia organizacji społecznych jest rozwodnienie zakazów, które miały chronić Europejczyków i Europejki przed systemami, które potrafią ustalać tożsamość człowieka na podstawie zdjęcia jego twarzy albo rozpoznawać przeżywane w danym momencie emocje. Takie systemy mogą być łatwo użyte przeciwko ludziom, np. przez niekontrolowane w sposób demokratyczny służby – wyjaśnia Szymielewicz. – Na szczęście ostał się przynajmniej zakaz scoringu społecznego.

Organizacje chciały też wprowadzenia konkretnych mechanizmów chroniących ludzi w zetknięciu z systemami sztucznej inteligencji.

– Według przecieków w ostatecznym tekście AI Act znalazło się prawo do indywidualnej skargi na źle działający albo dyskryminujący system. Będziemy mieć też możliwość zbiorowego dochodzenia praw. To ważne, bo mówimy o systemach, których działanie dotyka wielu osób. A więc kiedy popełniają błędy – również wiele osób na tym cierpi – dodaje Szymielewicz.

Najtrudniejsze w negocjacjach okazały się zagadnienia związane z regulacją modeli podstawowych, takich jak GPT, Bard, Anthropic czy Gemini. Ostatecznie regulacja obejmie także ich twórców i dostawców. Nałożone na nich obowiązki, w tym m.in. zarządzanie ryzykiem, udostępnianie dokumentacji technicznej partnerom, przejrzystość, jakość i zgodność z prawem baz danych treningowych, będą minimalne dla niewielkich modeli, a większe dla liderów rynku takich jak Microsoft czy OpenAI.

Duże emocje wzbudziły też obowiązki firm i instytucji wdrażających systemy z kategorii wysokiego ryzyka. – Ostatecznie w AI Act – przynajmniej według przecieków – znalazł się obowiązek przeprowadzania oceny wpływu na prawa człowieka dla każdego takiego systemu przed jego wdrożeniem. W ten sposób Unia Europejska chce zapobiegać szkodom, jakie może powodować źle zaprojektowana albo źle wykorzystana sztuczna inteligencja, a nie czekać aż mleko się wyleje – wyjaśnia Szymielewicz.

Z bardziej szczegółowym komentarzem Panoptykon wstrzymuje się do momentu, kiedy zostanie opublikowana ostateczna treść rozporządzenia o AI – co powinno nastąpić w ciągu kilku tygodni.

Prawa do materiału prasowego: Fundacja Panoptykon.
Treść dostępna na licencji CC BY-SA 4.0.
foto pixabay

Dodaj komentarz:

Komentarze:

Oni tu zostają

„Zostaję!” to hasło nowej kampanii promującej Gorzów, która ma zwrócić uwagę na zalety naszego miasta, dzięki którym jest ono doskonałym ... <czytaj dalej>

Pielgrzymki

Tegoroczna piesza pielgrzymka powołaniowa odbędzie się w sobotę w sobotę 27 kwietnia. Wyjście pielgrzymki na trasę z Paradyża do Rokitna nastąpi ... <czytaj dalej>

200 lat dla pani Zofii

Nieczęsto zdarza się, aby tradycyjnie śpiewane „sto lat”, z racji chwili, modyfikowano w sekwencji życzeń na lat „dwieście”. Tak właśnie ... <czytaj dalej>

Prezydent w ministerstwie

Prezydent Gorzowa w Ministerstwie Nauki i Szkolnictwa Wyższego. - Z doświadczenia wiem, że najważniejsze są relacje bezpośrednie. Ustalenia, które zapadają wtedy ... <czytaj dalej>

«	kwiecień 2024					»
P	W	Ś	C	P	S	N
1	2	3	4	5	6	7
8	9	10	11	12	13	14
15	16	17	18	19	20	21
22	23	24	25	26	27	28
29	30

Piękna inicjatywa w brzydkim mieście

aktualnie nie ma żadnej czynnej sondy

Blogujesz? Rób to lokalnie!
Wystarczy jedno kliknięcie w egoBlog

Masz problem?
Napisz do eksperta egoEkspert

Żadna sprawa nie zostanie bez odzewu. Daj znać na eGo Forum

To nie kwestia dobra czy zła tylko odpowiedzialności i wolnej woli. Zdejmujemy z naszych dzieci odpowiedzialność. Mówimy "to są dzieci wię <czytaj dalej>

Piękna muzyka była w spektaklu. Cudownie zaśpiewana piosenka finałowa. <czytaj dalej>

108tys
I durna dająca efekt odwrotny kampania <czytaj dalej>

Dobrze! Bo wiele dobrych koncertów w tym sezonie.
Również w Sali Kameralnej. Także autorskie, naszych filharmoników. Wczoraj np. występ dw� <czytaj dalej>

Jest tak bo zdurnieliśmy..... <czytaj dalej>