Co robi prompt engineer?

Wraz z szybko rozwijającym się rynkiem pracy, zaczyna pojawiać się coraz większe zapotrzebowanie na zawody techniczne. Ze względu na rozwój SI (sztucznej inteligencji), znacząco wzrosła liczba ofert pracy na stanowiska, które będą mogły pomagać rozwijać tę technologię. Właśnie ze względu na zapotrzebowanie rynkowe prompt engineer staje się jednym z częściej poszukiwanych zawodów na rynku pracy. W tym artykule przyjrzymy się temu, co robi prompt engineer, ile zarabia, a także jakie narzędzia wykorzystuje się w tym zawodzie.

Co znajdziesz w tym artykule?

Jaką pracę wykonuje prompt engineer?

Najpierw wytłumaczmy sobie, o co w tym wszystkim chodzi. Prompt engineer pracuje z SI, z którą komunikuje się za pomocą tekstu. Dzięki wprowadzaniu komend/poleceń do interfejsu tekstowego można nakazywać danemu modelowi, jakie będzie jego zadanie. Prompt to ogólna instrukcja, którą podaje się SI, żeby wykonała jakieś zadanie. Modele sztucznej inteligencji, takie jak DALLE-2 i Stable Diffusion, generujące obrazy, polegają na wykorzystaniu specjalnego rodzaju promptów, czyli opisów pożądanego wyniku. Poprzez podanie różnych informacji, takich jak na przykład opis obrazu w stylu Van Gogha przedstawiającego apokalipsę po ataku kosmitów na Ziemię, tworzymy prompt, który pozwala modelowi na wygenerowanie obrazu. W przypadku dużych modeli językowych (LLM), takich jak ChatGPT czy GPT-4, prompt może być zastosowany w celu generowania zindywidualizowanych ofert dla klientów.

Ważne jest, aby prompty były odpowiednio dobrze dobrane do konkretnych potrzeb biznesowych i były precyzyjne, aby model mógł zrozumieć, co dokładnie ma wygenerować. Prompty mogą być stosowane w różnych dziedzinach: od e-commerce i marketingu, po projektowanie i sztukę. Ważne jest, aby pamiętać, że wykorzystanie promptu w celu zbierania danych o klientach powinno być zgodne z przepisami dotyczącymi prywatności i ochrony danych osobowych.

Jak prompt engenerring może działać w praktyce?

Dość niedawno zauważono dobrą wydajność w kwestii zadań nowatorskich przy użyciu multitasking prompt engineering, wykorzystując przy tym kilka zbiorów danych NLP. Zauważono, że skuteczność modeli językowych w problemach wieloetapowego rozumowania można poprawić, jeśli prompt zawiera słowa, które wspierają łańcuch myślowy.

Załóżmy, że pracujemy nad modelem językowym mającym na celu ocenę ryzyka kredytowego dla klientów banku. Aby poprawić skuteczność modelu, można stworzyć prompt składający się z kilku słów kluczowych, które będą wspierać łańcuch myślowy.

Przykładowy prompt: „Rozważając wniosek kredytowy od klienta, który ma niską zdolność kredytową, należy wziąć pod uwagę jego historię spłat oraz bieżącą sytuację finansową. W przypadku braku odpowiednich danych, należy skonsultować się z zespołem analitycznym.”

W tym przykładzie, prompt składa się z kilku słów kluczowych, takich jak „zdolność kredytowa”, „historia spłat”, „bieżąca sytuacja finansowa” i „zespołu analitycznego”. Słowa te pomagają wskazać kluczowe czynniki, które należy wziąć pod uwagę przy ocenie ryzyka kredytowego i zapewniają kierunek myślenia modelu.

Właśnie z tego powodu tworzy się coraz więcej miejsc pracy dla prompt engineerów.

Ile zarabia prompt engineer?

Popyt na prompt engineerów jest wysoki, ponieważ wiele branż szuka sposobów na wdrożenie technologii SI w swojej działalności. Na przykład firmy z branży ochrony zdrowia wykorzystują modele SI do analizowania dokumentów medycznych i pomagania w diagnozowaniu chorób. Branża finansowa wykorzystuje modele SI do wykrywania oszustw i podejmowania decyzji inwestycyjnych. W miarę rozwoju technologii SI, popyt na prompt engineerów przewidywany jest do wzrostu.

Kwestia zarobków w Polsce nie jest jednak oczywista. W Ameryce taka osoba może liczyć na zarobki $250k – $335k rocznie¹. Średnia zarobków w IT według raportu JustJoinIT z 2022 w Polsce wynosi 5-7 tysięcy zł brutto, tak więc i w tym wypadku nie powinno być gorzej².

Na czym polega budowanie promptów?

Budowanie promptów zaczyna się od zdefiniowania, jakiego rodzaju dane będą potrzebne do nauczenia modelu wykonania zadania. Prompt engineer musi następnie odpowiednio sformatować dane, tak aby były one zrozumiałe dla modelu. Często wymaga to użycia odpowiednich narzędzi, takich jak języki programowania czy biblioteki do przetwarzania języka naturalnego, jak chociażby Python, SQL czy R.

Kolejnym ważnym elementem budowania promptów jest ich testowanie. Prompt engineer musi upewnić się, że prompty są skuteczne i pozwalają modelowi dokładnie wykonywać zadania. W tym celu często wykorzystuje się zestawy testowe, które pozwalają na ocenę jakości promptów.

Na jakich narzędziach działa prompt engineer?

Tak jak w każdym zawodzie tak i tutaj wykorzystywane są narzędzia do tego, żeby skutecznie funkcjonować. Do najbardziej przydatnych możemy zaliczyć:

• LangChain – jest to narzędzie, które można określić jednym z popularniejszych w wypadku projektowania promptów. Program ten zawiera sześć modułów przeznaczonych do zadań, takich jak automatyzacja zarządzania promptami (dane wejściowe podawane do LLM) obsługa nagłówków, tworzenie chatbotów, utrzymywanie stanu między wywołaniami łańcuchów i agentów.
• GPT Index – to narzędzie jest znacząco inne od poprzedniego. W tym wypadku został on zaprojektowany do z intuicyjnym interfejsem służącym do działania pomiędzy Twoimi danymi zewnętrznymi a LLMs. Jednym z celów GPT Index jest pomoc użytkownikom w implementowaniu danych do LLM.
• Dust.tt – platforma ta pomaga w tworzeniu aplikacji opartych na dużych modelach językowych. W samej aplikacji możemy w łatwy sposób obsługiwać interfejs graficzny, tworząc łańcuchy promptów oraz zestaw standardowych bloków.

Dlaczego narzędzia są takie ważne w pracy prompt engineera?

Właśnie ze względu na skomplikowanie procesu budowania zbiorów danych dla systemów sztucznej inteligencji. Narzędzia te ułatwiają prompt engineerom pracę i przyspieszają cały proces. Dzięki nim zbudowanie zbioru danych jest bardziej efektywne i precyzyjne, a w konsekwencji systemy SI stają się dokładniejsze i precyzyjne w swoich prognozach i decyzjach.

Czy trudno jest napisać prompt?

Choć ze względu na sporą ilość technicznego języka może się wydawać, że pisanie promptów jest trudne, to tak naprawdę to zależy od konkretnego przypadku i zadania. Dla prostych zadań, takich jak zadania klasyfikacji binarnej, prompty mogą być stosunkowo łatwe do napisania. W przypadku bardziej złożonych zadań, na przykład w przypadku modeli językowych, w których modele muszą zrozumieć znaczenie zdań i kontekst, prompty mogą być bardziej skomplikowane.

W celu ułatwienia tworzenia promptów opracowano różne narzędzia, o których wcześniej wspominałem. Jeśli osoba potrafi umiejętnie z nich korzystać, to praca ta może okazać się nie aż tak trudna jak pozornie może się wydawać.

Prompty są kluczowe dla uczenia maszynowego, a prompt engineering ma na celu projektowanie i tworzenie danych wejściowych, które umożliwiają modelom SI naukę konkretnych zadań. Właśnie ze względu na to, jak rozwija się SI, popyt na tego typu zawody będzie cały czas rósł. To otwiera z kolei nowe perspektywy dla młodych osób albo dla tych, które myślą o zmianie pracy. Nawet jeśli nie jesteś osobą mocno techniczną, to dzięki szeregowi różnych narzędzi możesz poradzić sobie w tym zawodzie.

Źródła:

1.  https://blog.devgenius.io/prompt-engineering-with-openapi-gpt-by-example-23765ae0085e
2. źródło: https://s3.eu-west-1.amazonaws.com/bucket.justjoin.it/case_studies/JJIT-Raport-zarobkow-IT-2022.pdf