Agiliway uzyskuje certyfikat ISO 42001:2023

Firma Agiliway pomyślnie przeszła audyt certyfikacyjny ISO/IEC 42001:2023. Norma ISO 42001, uzupełniająca posiadane już przez nas certyfikaty ISO 9001 i ISO 27001, rozszerza nasze ramy zarządzania o obszar odpowiedzialnego tworzenia i eksploatacji systemów sztucznej inteligencji.

Nasze Aktualności

ISO/IEC 42001:2023 to międzynarodowa norma dotycząca nadzoru nad systemami sztucznej inteligencji oraz zarządzania nimi. Określa ona, jak w praktyce powinien wyglądać system zarządzania sztuczną inteligencją (ang. AI Management System – AIMS), uwzględniając polityki, mechanizmy kontrolne, procesy zarządzania ryzykiem oraz struktury odpowiedzialności.

Wiele organizacji wdrażających obecnie sztuczną inteligencję nadal funkcjonuje bez formalnej struktury nadzoru nad tą technologią. Modele są integrowane, decyzje automatyzowane, a kwestia odpowiedzialności za ewentualne niepowodzenia często pozostaje nieuregulowana aż do momentu wystąpienia problemów. Norma ISO 42001 ma na celu wypełnienie tej luki.

Podczas gdy ISO 9001 dotyczy zarządzania jakością, a ISO 27001 – bezpieczeństwa informacji, norma ISO 42001 odnosi się do specyficznych wyzwań związanych ze sztuczną inteligencją, takich jak stronniczość algorytmów, brak możliwości wyjaśnienia działania systemów (brak przejrzystości decyzji), transparentność danych, odpowiedzialność etyczna oraz zgodność z nowymi regulacjami, w tym z unijnym aktem o sztucznej inteligencji (EU AI Act).

ISO 42001:2023 to pierwsza norma podlegająca certyfikacji, która wymaga od organizacji wykazania – w drodze niezależnego audytu – że ich systemy sztucznej inteligencji są objęte odpowiednim nadzorem.

Proces certyfikacji wymagał od Agiliway sformalizowania praktyk, które w wielu przypadkach istniały już nieformalnie, oraz umożliwienia ich audytu i weryfikacji przez podmiot zewnętrzny. Najwięcej prac merytorycznych wymagały następujące obszary:

• Implikacje etyczne

Każdy budowany przez nas system sztucznej inteligencji przechodzi ocenę implikacji etycznych na wielu etapach rozwoju. Wykrywanie stronniczości, oceny uczciwości i sprawdzanie wyjaśnialności są częścią procesu, a nie refleksją. Jeśli rozwiązania AI nie da się wyjaśnić klientowi i jego użytkownikom końcowym w prosty sposób, jest to traktowane jako problem, który należy rozwiązać przed wdrożeniem, a nie po.

• Zarządzanie ryzykiem

Jeśli chodzi o zarządzanie ryzykiem, prowadzimy formalne rejestry ryzyka związane ze sztuczną inteligencją oraz procesy oceny wpływu, które mają zastosowanie w projektach związanych z uczeniem maszynowym, generatywną sztuczną inteligencją, wizją komputerową i agentami sztucznej inteligencji. Norma wymaga od nas zidentyfikowania, co może pójść nie tak z systemem sztucznej inteligencji, oceny powagi tego ryzyka i udokumentowania, w jaki sposób sobie z nim radzimy, dla każdego projektu, a nie wybiórczo.

• Dokumentacja przejrzystości

Dokumentacja dotycząca przejrzystości jest obecnie ujednolicona. Klienci, którzy chcą zrozumieć, w jaki sposób model podejmuje decyzje, na jakich danych był szkolony i jakie są jego znane ograniczenia, znajdą te informacje dostępne i utrzymywane przez cały okres zaangażowania.

Zdajemy sobie sprawę, że certyfikaty mogą niekiedy sprawiać wrażenie korzystniejszych dla dostawcy niż dla klienta. Warto zatem doprecyzować, jakie konkretne zmiany w praktyce wprowadza norma ISO 42001:2023 dla organizacji, z którymi współpracujemy.

Gdy firma Agiliway tworzy aplikację wykorzystującą sztuczną inteligencję, model uczenia maszynowego lub rozwiązanie integrujące generatywną sztuczną inteligencję, system zarządzania i procesy organizacji są niezależnie weryfikowane pod kątem zgodności z międzynarodową normą.

Dla klientów działających w branżach regulowanych lub zamawiających usługi AI w oparciu o wewnętrzne wymogi dotyczące ładu organizacyjnego (governance), ma to bezpośrednie znaczenie praktyczne. Coraz więcej procesów zakupowych w dużych przedsiębiorstwach i sektorze publicznym wymaga potwierdzenia dojrzałości systemów zarządzania sztuczną inteligencją. Nasz certyfikat ISO 42001:2023 stanowi bezpośrednie spełnienie tego wymogu.

Dla klientów tworzących produkty podlegające unijnemu rozporządzeniu o sztucznej inteligencji (EU AI Act) współpraca z certyfikowanym partnerem w dziedzinie AI oznacza, że ​​proces wytwarzania odbywa się w ramach struktury dostosowanej do wymogów regulacyjnych. Ułatwia to zapewnienie zgodności z przepisami i przygotowanie niezbędnej dokumentacji.

Agiliway posiada już certyfikaty ISO 9001:2015 (zarządzanie jakością) oraz ISO 27001:2023 (bezpieczeństwo informacji). Norma ISO 42001:2023 stanowi uzupełnienie, a nie zamiennik tych certyfikatów, obejmując obszar, którego one nie dotyczą.

Łącznie te trzy certyfikaty zapewniają klientom niezależne potwierdzenie kompetencji w zakresie zarządzania jakością, bezpieczeństwa informacji oraz ładu w obszarze sztucznej inteligencji. Są to aspekty coraz częściej oceniane łącznie podczas procesów zakupowych w przedsiębiorstwach oraz procedur weryfikacyjnych (ang. Due Diligence).

Jeśli chcą Państwo omówić podejście firmy Agiliway do kwestii ładu w obszarze AI w kontekście konkretnego projektu lub jeśli poszukują Państwo partnera do rozwoju rozwiązań AI, dla którego kluczowe są kwestie zarządzania i nadzoru, zachęcamy do kontaktu z naszym zespołem.

Certyfikat jest dostępny na życzenie w ramach każdego procesu zakupowego lub procedury należytej staranności.

Zapraszamy do zapoznania się z naszą ofertą usług w zakresie AI i uczenia maszynowego oraz z usługą oceny gotowości do wdrożenia AI.

Nasze Aktualności