RLHF po polsku z zespołem do porównań i oceny odpowiedzi modeli AI
Budujesz model albo asystenta, który ma mówić po polsku, i potrzebujesz ludzi do porównań par odpowiedzi, ocen na skali i odpowiedzi wzorcowych. Juniors daje Ci zespół oceniających z Polski na godziny: rekrutujemy, szkolimy na Twojej instrukcji, testujemy i pilnujemy zgodności ocen. Start w 72 godziny w planie Business, stawka od 46,40 zł netto za godzinę.
Zespół prowadzi Juniors. Umowy, formalności i limity godzin są po naszej stronie, Ty dostajesz jedną fakturę miesięczną.
RLHF po polsku w skrócie
RLHF (uczenie przez wzmocnienie z informacją zwrotną od człowieka) potrzebuje ludzi, którzy ocenią tysiące odpowiedzi modelu według jednej instrukcji. Po polsku liczy się to podwójnie: automatyczne miary i oceniający z innych krajów nie wychwycą złej odmiany, kalki z angielskiego ani sztucznego tonu. Najszybsza droga do takich danych to zlecenie oceny zespołowi rodzimych użytkowników języka, rozliczany za godziny, z kontrolą zgodności w trakcie.
| Co dostajesz | Szczegóły |
|---|---|
| Zespół | od 15 do 500 osób jednocześnie, według planu |
| Start | 5 dni roboczych, 72 h albo 48 h |
| Stawka dla firmy | 46,40 zł netto za godzinę po polsku, 58,00 zł po angielsku |
| Kontrola jakości | test wejściowy, pytania kontrolne, podwójna ocena próbki |
| Wyniki | panel, eksport danych, API w planie Scale |
Zadania RLHF, które zespół wykonuje po polsku
Porównanie par odpowiedzi
Oceniający czyta polecenie i dwie odpowiedzi modelu, wybiera lepszą albo zaznacza remis i w jednym zdaniu uzasadnia wybór. To klasyczne dane preferencji do modelu nagrody, DPO i podobnych metod.
Ocena na skali według kryteriów
Każda odpowiedź dostaje osobne oceny za poprawność, kompletność, polszczyznę, zgodność z poleceniem i ton. Rozbicie na kryteria daje wyższą zgodność oceniających niż jedna ocena ogólna od 1 do 5.
Odpowiedzi wzorcowe do SFT
Zespół pisze pytania i wzorcowe odpowiedzi po polsku według Twojego stylu: długość, format, rejestr. Te dane trafiają do dostrajania nadzorowanego albo do zbioru testowego.
Poprawianie odpowiedzi modelu
Oceniający bierze odpowiedź modelu i przepisuje ją tak, żeby spełniała instrukcję. Para przed i po jest gotowym przykładem do treningu.
Sprawdzanie faktów z researchem
Przy odpowiedziach z faktami oceniający sprawdza źródła w internecie i oznacza zdania nieprawdziwe albo niepotwierdzone. Stawka jak za research: 52,20 zł netto za godzinę.
Testy asystenta w rozmowie
Zespół prowadzi wieloturowe rozmowy z Twoim asystentem według scenariuszy i ocenia całą rozmowę: czy asystent pamięta kontekst, czy dopytuje, czy kończy sprawę.
Jak wygląda projekt RLHF z Juniors
- 01 Instrukcja: wysyłasz instrukcję oceniania i 30 do 50 przykładów z prawidłowymi ocenami. Jeśli instrukcji jeszcze nie ma, koordynator pomoże ją ułożyć.
- 02 Rekrutacja i test: z puli wybieramy osoby, które zdają test na Twoich przykładach powyżej ustalonego progu zgodności.
- 03 Pilot: zespół ocenia pierwszą partię, na przykład 500 par. Sprawdzasz wyniki i poprawiasz instrukcję w miejscach sporów.
- 04 Produkcja: pełny wolumen z pytaniami kontrolnymi wplecionymi w zadania i podwójną oceną próbki.
- 05 Odbiór: wyniki w panelu albo przez API, raport jakości co tydzień, godziny do akceptacji raz w tygodniu.
Jak pilnujemy zgodności ocen
Najczęstszy problem w danych preferencji to nie zła wola, tylko różne rozumienie instrukcji. Dlatego jakość mierzymy liczbami, a nie deklaracjami.
- Test wejściowy na Twoich przykładach, z progiem zaliczenia, który ustalasz Ty
- Pytania kontrolne ze znaną odpowiedzią, około 5 procent zadań, niewidoczne dla oceniającego
- Podwójna ocena próbki i miara zgodności oceniających w raporcie tygodniowym
- Lista sporów: pary, przy których oceniający się różnią, trafiają do Ciebie jako sygnał do poprawy instrukcji
- Osoby poniżej progu wracają do szkolenia albo wychodzą z projektu
Ile kosztuje RLHF po polsku
Płacisz abonament planu i godziny pracy zespołu. Godzina to 32,00 zł wynagrodzenia oceniającego plus marża Juniors: 14,40 zł przy ocenach po polsku i 26,00 zł po angielsku, bez dodatkowych opłat za zadanie.
| Rodzaj zadania | Stawka dla firmy netto za godzinę |
|---|---|
| Porównania par i oceny na skali po polsku | 46,40 zł |
| Sprawdzanie faktów z researchem, testy asystenta | 52,20 zł |
| Ocena po angielsku, zadania z testem technicznym | 58,00 zł |
Przykład: 10 000 porównań par po polsku przy średnio 2 minutach na parę to około 334 godziny. Z podwójną oceną 10 procent próbki wychodzi około 367 godzin, czyli 17 028,80 zł netto za godziny plus abonament Business 4 990 zł netto. Zespół 20 osób robi to w około dwa tygodnie.
Juniors a inne sposoby zdobycia ocen po polsku
| Własny zespół na umowach | Globalna platforma crowdsourcingowa | Juniors | |
|---|---|---|---|
| Rodzimi użytkownicy polskiego | tak | zależnie od puli, trudno sprawdzić | tak, cały zespół z Polski |
| Czas startu | tygodnie rekrutacji | szybko | 5 dni roboczych, 72 h albo 48 h |
| Umowy i kadry | po Twojej stronie | po stronie platformy | po stronie Juniors |
| Kontrola zgodności | musisz ją zbudować | narzędzia platformy | test, pytania kontrolne, podwójna ocena |
| Ocena treści eksperckich (medycyna, prawo) | tak, jeśli zatrudnisz ekspertów | zależnie od puli | nie, to nie nasz zespół |
Jeśli potrzebujesz lekarzy albo prawników do oceny odpowiedzi specjalistycznych, lepszy będzie zespół ekspertów. Juniors sprawdza się tam, gdzie liczy się naturalna polszczyzna, spójność i duży wolumen w krótkim czasie.
Czego zespół nie ocenia
Zespół to osoby w wieku 16-19 lat, a na życzenie tylko 18-19. Nie przyjmujemy projektów z treściami dla dorosłych, przemocą, hazardem, alkoholem ani tytoniem, także jako testów bezpieczeństwa czy red teamingu modelu. Nie oceniamy zdjęć ani nagrań osób.
Poufność danych i modeli
Każda osoba podpisuje zobowiązanie do poufności. Zespół pracuje w panelu Juniors albo w Twoim narzędziu do anotacji, na kontach, które zakładasz i wyłączasz Ty. Po projekcie dostęp wygasa. W planie Enterprise zespół pracuje w Twoim środowisku, z NDA i umową powierzenia danych na Twoim wzorze.
Pytania o RLHF po polsku
Co to jest RLHF?
RLHF to uczenie przez wzmocnienie z informacją zwrotną od człowieka. Ludzie porównują albo oceniają odpowiedzi modelu, z tych ocen powstaje model nagrody lub zbiór preferencji, a model językowy uczy się dawać odpowiedzi, które ludzie oceniają wyżej. Bez spójnych ludzkich ocen ta metoda nie działa.
Ile kosztuje ocena odpowiedzi modelu przez ludzi?
W Juniors godzina oceny po polsku kosztuje 46,40 zł netto, plus abonament planu od 2 490 zł netto miesięcznie. Przy 2 minutach na parę 10 000 porównań to około 17 000 zł netto za godziny. Koszt zależy głównie od długości odpowiedzi i liczby kryteriów.
Ile osób potrzeba do projektu RLHF?
Tyle, ile wynika z wolumenu i terminu. 10 000 par w dwa tygodnie obsłuży około 20 osób po 9 godzin tygodniowo. Plan Team pozwala na 15 osób jednocześnie, Business na 80, Scale na 500.
Czy możecie pracować w naszym narzędziu do anotacji?
Tak. Jeśli używasz własnego narzędzia, na przykład Label Studio albo Argilla, zakładasz zespołowi konta, a my prowadzimy ludzi, godziny i kontrolę jakości. Możesz też użyć narzędzia w panelu Juniors.
Czy oceniacie odpowiedzi po angielsku?
Tak. Osoby po teście językowym oceniają odpowiedzi po angielsku przy stawce 58,00 zł netto za godzinę. Najmocniejsi jesteśmy jednak w polskim, bo to język ojczysty całego zespołu.
Jak szybko zespół zaczyna pracę?
Rekrutacja do projektu trwa 5 dni roboczych w planie Team, 72 godziny w planie Business i 48 godzin w planie Scale. Pilot na pierwszej partii zwykle zajmuje jeden do dwóch dni.
Zespół do RLHF po polsku w 72 godziny
Załóż konto firmy, wyślij instrukcję i przykłady, a pilot na pierwszej partii zrobimy jeszcze w tym tygodniu.