Leży w infrastrukturze: zbyt drogiej, źle dopasowanej albo pozbawionej kontroli nad danymi. Praktyczny wniosek dla startupów jest prosty: nie trzeba kopiować architektury dużej korporacji, żeby uruchomić użyteczne AI.
Najpierw obciążenie, potem sprzęt
Najbardziej racjonalnym punktem startu pozostaje środowisko chmurowe. Pozwala testować rozwiązania, zwiększać moc obliczeniową na czas eksperymentów i nie wymaga dużej inwestycji początkowej. To ważne, gdy firma nie zna jeszcze rzeczywistego profilu obciążenia.
BizTech Magazine wskazuje jednak, że docelowy model często będzie hybrydowy. Chmura obsłuży trening modeli i krótkotrwałe skoki zapotrzebowania na moc. Lokalna infrastruktura może przejąć zadania powtarzalne, stabilne oraz te, przy których istotna jest kontrola nad danymi.
Według prognozy IDC przytoczonej przez źródło do 2028 roku 75 proc. obciążeń związanych z AI ma działać w infrastrukturze hybrydowej. To nie oznacza automatycznej rekomendacji zakupu serwerów z GPU. Oznacza zmianę sposobu podejmowania decyzji: miejsce uruchomienia obciążenia trzeba dopasować do kosztu, opóźnień, dostępności danych i wymagań dotyczących dostępu.
Dla małej firmy proces powinien wyglądać następująco:
- uruchomić pilotaż w chmurze;
- zmierzyć zużycie zasobów i częstotliwość obciążenia;
- określić, które dane mogą opuszczać organizację;
- policzyć koszt stały i koszt skokowego użycia;
- dopiero potem rozważyć przeniesienie części zadań do własnej infrastruktury.
To ogranicza ryzyko zakupu sprzętu przed potwierdzeniem, że projekt generuje wartość.
Koszt chmury nie kończy decyzji
W miarę rozwoju projektu rachunki za chmurę mogą rosnąć. Wtedy część organizacji przenosi aplikacje z powrotem do własnego środowiska. W materiale nazwano ten proces repatriacją. Nie jest to jednak ruch wykonywany raz na zawsze. Lokalizacja obciążenia może zmieniać się wraz z rozwojem modelu, liczbą użytkowników i sposobem wykorzystywania danych.
Nie każde zadanie powinno trafić w to samo miejsce. Środowisko chmurowe lepiej pasuje do eksperymentów i okresowych skoków mocy. Lokalny klaster może uzasadnić koszt przy przewidywalnym, stałym obciążeniu. Dodatkowym argumentem pozostaje ochrona wrażliwych informacji oraz wymagania związane z regulacjami dotyczącymi danych, w tym RODO.
Najczęstszy błąd polega na traktowaniu infrastruktury jako decyzji technicznej oderwanej od rachunku biznesowego. Tymczasem punkt opłacalności zależy od konkretnego przebiegu pracy. Ten sam model może być racjonalny w chmurze podczas testów i nieefektywny po przejściu do stałej produkcji. Może też działać odwrotnie, jeśli obciążenie pozostaje nieregularne.
Wąskim gardłem bywa nie moc obliczeniowa, lecz dostęp do danych. Zespół musi mieć szybki dostęp do informacji, ale jednocześnie kontrolować, kto i w jaki sposób z nich korzysta.
Infrastruktura bez zarządzania tworzy dług
Drugi problem opisuje National Cybersecurity Alliance. Według przytoczonego badania niemal 88 proc. właścicieli małych firm korzysta już z narzędzi AI, a 54 proc. robi to bez formalnych wytycznych lub polityk. Te liczby pokazują lukę między adopcją a zarządzaniem.
Pracownicy mogą przekazywać publicznym narzędziom dane finansowe, informacje klientów, treść umów albo wewnętrzne raporty. Zespoły techniczne mogą z kolei przesyłać kod źródłowy, struktury baz danych i dokumentację systemów. Źródło wskazuje, że dane wprowadzone do publicznych systemów mogą być przechowywane lub przetwarzane przez podmioty trzecie.
Osobne ryzyko stanowią błędy generowane przez AI. Treść może wyglądać profesjonalnie, mimo że zawiera nieprawidłowe informacje. Dotyczy to komunikacji z klientami, raportów, dokumentacji zgodności i oprogramowania. Dlatego materiał zaleca obowiązkową weryfikację człowieka.
Na poziomie operacyjnym firma powinna zdefiniować:
- jakie dane mogą trafić do zewnętrznych narzędzi;
- których aplikacji AI wolno używać;
- kto zatwierdza nowe integracje;
- które wyniki wymagają kontroli przed publikacją lub wdrożeniem;
- jak monitorować niezatwierdzone narzędzia, czyli zjawisko shadow AI.
Dla startupu oznacza to jedną zasadę: najpierw zmierzyć obciążenie i ryzyko, później skalować infrastrukturę. Zakup sprzętu bez danych o wykorzystaniu zasobów zwiększa koszt. Korzystanie z AI bez zasad dostępu zwiększa ekspozycję. W obu przypadkach problemem nie jest brak technologii, lecz niedopasowany proces.