STT nepodporovaného jazyka na iPhone – 3. díl

Ve druhém díle jsem popsal, proč jsem zvolil model přímo v telefonu a jak řešení vypadá v praxi. V tomto posledním obecném díle se podívám na to, kde to pro Applem nepodporovaný jazyk zatím drhne a co bych si přál do budoucna.

Čeština jako „malý“ jazyk

Na češtině je dobře vidět, jak velký rozdíl dělá hranice mezi jazyky, které systém podporuje, a těmi, které ne. Podporovaný jazyk dostane vývojář téměř zadarmo: model je součástí systému, Apple ho připravil předem a spustí se okamžitě. U češtiny se musí o všechno postarat aplikace sama.

Tohle řešení má svou cenu:

• velikost modelu, který se musí stáhnout a uložit,
• příprava modelu pro konkrétní telefon, která trvá minuty,
• hlídání, aby se příprava nepřerušila a aplikace běžela i na pozadí.

Není to jen český problém. Apple Intelligence dnes podporuje jen kolem šestnácti jazyků, takže podobně jsou na tom stovky dalších. Největším pomocníkem by proto byla podpora češtiny přímo v systému. Pak by celá tahle cesta byla zbytečná. Dokud se to nestane, zbývá vlastní řešení.

Co zatím nefunguje a na co si dát pozor

Yejm0na je to kvalita přepisu, protože i Whisper dělá chyby, hlavně u jmen, odborných výrazů a v hlučném prostředí. Modely, které češtinu nezvládaly, produkovaly nesmysly nebo se přepnuly do jiného jazyka. Aby byl přepis a odpověď správně, nechávám uživatele jazyk nastavit přepínačem. Čeština rozlišuje rod i v běžných větách („byl jsem unavený“ a „byla jsem unavená“), proto nabízím také volbu "Jsem muž / Jsem žena / Nechci uvádět". Několik minut čekání je pro nového uživatele nepříjemné a zatím se mi ho nepodařilo úplně skrýt, naneštěstí musí být navíc aplikace spuštěná, aby se moho model připravit. Samotné natažení do paměti telefonu je pak velmi rychlé. Je celkem nepříjemné, že se trénovaná data objevují v textu. Často na koncích vět se místo tiché mezery objeví část odpovídající titulkům, například jméno překladatele titulků, skoro se zdá že Whisper je natrénovaný mimo jiné i na obsahu webu titulky.com

AI není terapeut

Odpovědi AI jsou pomůcka k sebereflexi, ne terapie ani odborná rada. Mentor nálad může upozornit na vzorce, třeba že se špatně spí po večerních schůzkách, ale nenahradí lékaře ani psychologa. Pokud se cítíte špatně, obraťte se na odborníka.

Závěr

Chtěl jsem deník, který si můžu namluvit do hodinek, třeba za jízdy autem nebo kdykoliv mě napadne, a který mi pomůže porozumět vlastním náladám. Zjistil jsem, že i když můj rodný jazyk systém nepodporuje, nemusím se vzdát. Musím ale počítat s kompromisy: s velikostí modelu, s první přípravou a s tím, že část práce, kterou jinde udělá Apple, musím udělat sám.

Pokud vás zajímají technické detaily, připravuji samostatný článek. Bude v něm:

• jak aplikace pozná, zda telefon podporuje Apple Intelligence, a podle toho vybere engine,
• proč jsem model hostoval na úložišti R2 od Cloudflare,
• jak funguje příprava modelu pro Neural Engine a co ji spouští znovu,
• jak běží přepis na pozadí i při zamčeném telefonu a kde ukládat klíče v Keychainu,
• jak funguje přepínač jazyka a rodu mluvčího.