W publikacji My Company Polska Łukasz Ewertowski, AI Business Transformation & Technology Director oraz Head of Microsoft Centre of Excellence w MINDBOX, komentuje wyniki eksperymentu brytyjskiego AI Security Institute, podczas którego agenci AI podejmowali działania wykraczające poza zakres powierzonych im zadań.
Odnosząc się do tego przypadku, ekspert zwraca uwagę, że rosnąca autonomia agentów AI otwiera przed firmami nowe możliwości automatyzacji i zwiększania efektywności, ale jednocześnie wymaga odpowiedniego nadzoru.
Organizacje powinny traktować agentów AI podobnie jak nowych pracowników – jasno określić ich rolę, zakres odpowiedzialności oraz dostęp do zasobów i danych, a także przypisać właściciela biznesowego odpowiedzialnego za nadzór nad ich działaniem.
Łukasz Ewertowski w kontekście tej historii podkreśla również, że rynek wdrożeń AI w najbliższych latach zacznie przesuwać się z pytania „który model wybrać” na pytanie „jak nadzorować to, co już mamy”, a o powodzeniu projektów coraz częściej decydują kwestie związane z kontrolą, bezpieczeństwem i zarządzaniem ryzykiem.
Jak wyglądał incydent opisany przez brytyjski AI Security Institute i co oznacza dla organizacji wykorzystujących AI?
