Miałem bardzo podobne odczucia, szczególnie gdy pracowaliśmy nad systemem rekomendacyjnym do analizy zachowań użytkowników. Teoretycznie wszystko było zgodne z przepisami, ale w praktyce nagle pojawiło się pytanie, czy model nie uczy się rzeczy, których nie chcemy, np. wzmacniania nieświadomych uprzedzeń. To mnie przekonało, że etyka w AI nie jest czymś „obok projektu”, tylko realnym elementem technicznej pracy.
Właśnie dlatego zacząłem bardziej zgłębiać temat fundamentów sztucznej inteligencji i etycznych ram, m.in. na stronie: https://www.advisedskills.com/pl/artificial-intelligence/artificial-intelligence-foundation — bo dobrze ułożona baza pomaga później w takich trudnych decyzjach. Największy dylemat, z którym się mierzyliśmy, polegał na tym, że nawet dobrze przemyślony model potrafi nauczyć się nieprzewidywalnych wzorców, więc zespół musiał regularnie wracać do kwestii „czy to, co robimy, dalej jest zgodne z wartościami, które deklarujemy?”. Bez tego łatwo popłynąć w stronę czysto technicznego myślenia.

W mojej firmie również pojawiały się podobne dyskusje i to zwykle nie w momentach projektowania systemu, tylko podczas testów, kiedy wychodziły na jaw różne nieoczywiste zachowania modeli. Zauważyłem, że im więcej było rozmów wewnątrz zespołu o etyce i odpowiedzialności, tym łatwiej było wypracować sensowne rozwiązania. Fajnie, że coraz częściej traktuje się to jako naturalny element pracy, a nie jako „dodatek po godzinach”.