Kilka pytań dotyczących hybrydowego Maksa

[AMA_Anonim]

Pytanie podesłane wcześniej przez @Rafał 

Z majowego wywiadu dla GSMonline wynika, że czat z Maxem działa hybrydowo. Część tematów obsługuje już LLM, resztę stara platforma, a nowy głosowy Max ma stać na Gemini. Ile tematów w czacie w Mój Orange obsługuje dziś LLM i czy to ten sam model? Skoro Max ma sięgać do rachunków i historii klienta, to gdzie te dane są przetwarzane i czy treść rozmów służy do trenowania modelu?

[Agnieszka_MO · Accepted solution]

Cześć, dziękujemy za pytanie. Odpowiadając:

1. Treść rozmów NIGDY nie służy do trenowania modelu
2. Trudno powiedzieć "ile tematów". To zależy jak szczegółową klasyfikacje wprowadzimy. Jak popatrzymy przez pryzmat pięciu głównych procesów: obsługa techniczna, płatności, zarządzanie kontem i usługami, sprzedaż, reklamacje to wszystkie pięć. To nie znaczy, że w każdym z nich potrafi odpowiedzieć na każde pytanie, jak zejdziemy niżej to potrafi powiedzieć o bardzo wielu rzeczach lub zlecić różne akcje. Na tym szczegółowym poziomie "temat": można różnie zdefiniować, jak zrobimy to bardzo szczegółowo to będą to setki.
3. Coraz trudniej oddzielić część regułową od części LLM. Przenikają się coraz bardziej. Obecnie w prawie wszystkich chatach LLM odgrywa jakąś rolę.
4. Konkretny model LLM (np. Gemini) nie jest najważniejszą cechą chatbota. Ważne jest w jaki sposób w systemie powstają prompty (zapytania do LLM), w jaki sposób system sięga do danych, jak z nich korzysta i jak zabezpieczona jest jakość odpowiedzi. W tej architekturze przenikanie się korzystania z LLM i reguł jest niezbędne i jest kwintesencją bota. Konkretny model może być zmieniony na inny.