C++ a neuronové sítě

[]semo[]

Trochu jsem se zasekl s výběrem frameworku pro neuronový sítě. Chtěl bych něco, co funguje nativně v C++, ideálně umí GPU akceleraci, ale přitom to neni moloch. A zároveň bych preferoval aktivní projekt, ne něco, co se už nevyvíjí.

Líbilo se mi OpenNN - vše je krásně popsáno (to velmi oceňuju), je to jednoduchý a vše to splňuje. Jenže když sem to nainstaloval, tak mě zklamalo, jak je ta knihovna napsaná. Všechny 3rdčka jsou includovaný napřímo, takže includem opennn si zatáhnete do projektu všechno možný. Nehledě na to, že takto to ani nemůžu použít v našem firemním build systému.
Pak jsem tam viděl nějaký špatně ošetřený enumy a hlavně, nikde ani jeden move konstruktor. Takže si načtete nějaký hafo velký dataset a ještě ho pro jistotu asi 3x zkopírujete. Ne, že by to tak moc vadilo, ale nevzbuzuje to ve mě důvěru v autory.

Znáte něco lepšího?
_________________
Kdo jede na tygru, nesmí sesednout.
---
http://www.inventurakrajiny.cz/sipka/
Aquadelic GT, Mafia II, simulátory

[perry]

Zběžně jsem koukal na ten OpenNN - kromě Eigenu jsem tam nic 3rd party neviděl, co jsi myslel tím že se tam zatáhne všechno možný?

Pokud myslíš ten Eigen, tak ten jinak nefunguje myslím, ten je celý v headerech a přes templates.

--

Jinak já v C++ používám (resp. hrál jsem si) s Torchem (https://pytorch.org/). Bohužel to ale není rozhodně light-weight.
Includuje se toho hrozně, release build v plné optimalizaci běží strašně dlouho (když se udělá build s optimalizací jen přes moduly, tak to jde).

Je to nativní v C++ (má to i verzi pro CUDU), ale primární použití je binding na Python, takže samply a hodně věcí je pouze pro Python. Na druhou stranu, základní logika je víceméně stejná a dost se snažili mít i ty kódy podobné z hlediska inicializací a pointerů, které hodně schovávají. Dokumentace, resp. takový to na rozjetí, mi přišlo fajn, to mají popsané i v C++ a někde jsem viděl tutoriál podle kterého jsem to zprovoznil.

Lze v tom udělat libovolnou síť, tzn. ne jen klasické feed-forward, ale i konvoluční nad obrázky atd.
_________________
Perry.cz

[]semo[]

No, asi máš pravdu, jsou to jen header-only záležitosti, třeba by to šlo překousnout. Ale zrovna eigen už v repozitory máme a tahle knihovna si ho vynucuje svůj (kvůli cestám). To by znamenalo, že by to vlastně nešlo použít dohromady (různé verze a tak).
Vybírat knihovny je peklo. Zlatý starý časy, kdy se prostě jen programovalo.
_________________
Kdo jede na tygru, nesmí sesednout.
---
http://www.inventurakrajiny.cz/sipka/
Aquadelic GT, Mafia II, simulátory

[perry]

Tak přepsat ty includy a přidat ten OpenNN jako zdrojáky přímo do projektu, ne jako knihovnu
Takhle to občas taky dělám, když se mi někde pomlacují závislosti.

Jo, vybírat knihovny je děs. Hlavně když dělám něco, co má běhat na PC, Linuxu a ještě k tomu ideálně na mobilech :/
_________________
Perry.cz

[OndraSej]

A potřebuješ v C++ úplně vše?

My jsme to řešili s kolegou, který opravdu hodně nemá rád Python, ale až na osobní antipatie se ukázalo, že v C++ potřebujeme jen inferenci. Tvorbu + trénování modelu můžeme mít v čemkoliv jiném, protože ty můžeme spouštět samostatně.

Takže trénink/tvorbu modelu máme v Pythonu a TensorFlow (z různých důvodů, které zdaleka nemusí být relevantní pro všechny) a pro inferenci a integraci do dalších projektů si exportujeme natrénovaný model do TensorFlow Lite. To je mnohem menší knihovna s celkem rozumným C API, takže není problém ji integrovat a použít skoro kdekoliv.
_________________
http://trionteam.net

[]semo[]

U mě je to taky tak, že nemám rád Python. Mám osypky z toho, jak věci kolem pythonu nefungují. Jedna věc potřebuje python 2.7, druhá zas 3.něco. Nakonec po několika hodinách instalací různých balíčků do anakondy spustím skript a vyjede další error a můžu zas vesele googlit. Jinak mi byl python i sympatický, ale nejsem v tom prostě doma a nerad se učím nové věci.
_________________
Kdo jede na tygru, nesmí sesednout.
---
http://www.inventurakrajiny.cz/sipka/
Aquadelic GT, Mafia II, simulátory

[perry]

Python mě strašně štve. Na Linuxu je to ještě většinou OK, ale na woknech mi často skončí instalace chybou, že se nepodařilo přeložit nějaké C++ jádro knihovny, protože další knihovna XY nebyla nalezena.

[OndraSej]

]semo[> Python 2 je oficiálně mrtvý od začátku loňského roku. Pokud bez něj dnes nějaký projekt neběží (a horečně se nepracuje na portu), tak bych se mu spíš vyhnul.

perry> My jsme v rámci duševní hygieny a šetření času rozhodně nechtěli nic duplikovat. A protože k té hormadě knihoven v Pythonu v jiných jazycích bohužel není evkivalent a pravděpodobně nikdy nebude, skončili jsme u Pythonu (a kolega se postupně přesunul k jiným věcem, kde Python není potřeba).

Jinak na TensorFlow Lite se mi líbí, že celý model (tj. počty, velikosti a typy vrstev, ...) jsou popsané v tom souboru s natrénovaným modelem. Kód v C++ jen připraví vstupy do správného formátu, spustí výpočet a pak si v domluveném formátu zase přečte výstupy. A pokud neměníme formát vstupu nebo výstupu, tak v Pythonu můžeme dělat co chceme a v C++ stačí jen nahrát nový export modelu a funguje to.
_________________
http://trionteam.net

[]semo[]

Ten Torch mi připadá, že ho dlouho nikdo neupdatoval. Neni to mrtvý projekt?

A zkoušeli ste někdo mlpack nebo DyNet?

...mlpack sem zkusit chtěl, ale už druhý den opět bojuju se zprovozněním buildu. Tyhle rozlezlý knihovny nejsou nic pro mě :-(.

TensorFlow lite - to je pro nějaký arduina, ne?
_________________
Kdo jede na tygru, nesmí sesednout.
---
http://www.inventurakrajiny.cz/sipka/
Aquadelic GT, Mafia II, simulátory

[perry]

[]semo[]

hoď link, asi se dívám na jiný Torch..
_________________
Kdo jede na tygru, nesmí sesednout.
---
http://www.inventurakrajiny.cz/sipka/
Aquadelic GT, Mafia II, simulátory

[perry]

https://pytorch.org/ tady jsou prebuild knihovny
https://github.com/pytorch a jejich GIT
_________________
Perry.cz

[]semo[]

aha, zmátlo mě to Py...myslel sem že máš nějakou verzi bez py..., třeba tohle: https://github.com/torch/nn
_________________
Kdo jede na tygru, nesmí sesednout.
---
http://www.inventurakrajiny.cz/sipka/
Aquadelic GT, Mafia II, simulátory

[perry]

Zajímavé, to jsem neznal To vypadá na nějakou původní verzi, co běžela přes jazyk Lua místo Pythonu
_________________
Perry.cz

[OndraSej]