Das könnte dich auch interessieren: Wie man in Windows die GPU für TensorFlow aktiviert

Sprache und Umgebung

Tensorflow.js wurde speziell für JavaScript entwickelt, was bedeutet, dass sich Modelle direkt in JavaScript-Code implementieren lassen. Dies ermöglicht die nahtlose Integration in Webanwendungen und die Ausführung der Modelle im Browser ohne zusätzliche Serverinfrastruktur.

Tensorflow Python bietet eine umfassende Python-Bibliothek für maschinelles Lernen. Python ist eine weit verbreitete Programmiersprache im Bereich des maschinellen Lernens und bietet eine Vielzahl von Bibliotheken und Frameworks, die die Entwicklung und den Einsatz von Modellen erleichtern.

Zielplattform

Eine der größten Stärken von Tensorflow.js ist die Möglichkeit, Modelle direkt im Browser auszuführen. Dies ermöglicht es Entwicklern, interaktive Webanwendungen mit maschinellem Lernen zu erstellen, ohne dass der Nutzer zusätzliche Software installieren oder externe Serveranfragen senden muss.

Tensorflow Python hingegen ermöglicht die Entwicklung und Ausführung von Modellen auf verschiedenen Plattformen, einschließlich Desktop-Computern, Servern und mobilen Geräten. Es bietet eine breite Palette an Funktionen und unterstützt fortschrittliche Techniken wie das Trainieren von Modellen auf GPUs oder TPUs. TPU steht für „Tensor Processing Unit“. Das sind anwendungsspezifische Chips um Anwendungen im Rahmen von maschinellem Lernen zu beschleunigen

Community

Wenn man ehrlich ist die Tensorflow.js Community einfach zu klein. Bei vielen Fragen hat man das Gefühl man leistet hier „Pioniersarbeit“, was gerade für Anfänger nicht zu empfehlen ist. Zur Verdeutlichung: Es gibt 80 Mal mehr StackOverflow Fragen zu TensorFlow als zu TensorFlow.js. Je nach Anwendungsfall existieren aber mittlerweile auch für TensorFlow.js eine Reihe von Ressourcen, Tutorials und Beispielen, die bei der Entwicklung mit Tensorflow.js helfen können. Da JavaScript eine weit verbreitete Sprache ist, kann man auch auf eine große Menge an generellen Webentwicklungsressourcen zurückgreifen, die bei der Arbeit mit Tensorflow.js helfen können.

Tensorflow Python dagegen profitiert von einer großen und aktiven Community, die regelmäßig neue Modelle, Techniken und Ressourcen entwickelt und veröffentlicht. Es gibt eine Vielzahl von Tutorials, Foren und Open-Source-Projekten, die Ihnen helfen können, Ihre maschinellen Lernprojekte voranzutreiben. Die Python-Community ist für ihre Unterstützung und Zusammenarbeit bekannt, was den Einstieg in Tensorflow Python erleichtern kann.

Bibliotheken

In vielen Fällen und speziell bei meinem NLP Projekt ein K.O Kriterium für Tensorflow.js waren die Bibliotheken. Tensorflow.js hat im Vergleich zu Tensorflow Python viel weniger Bibliotheken. Das liegt aus meiner Sicht an folgenden 3 Punkten:

1. Entwicklungsstand: Tensorflow Python existiert seit mehreren Jahren und hat eine lange Entwicklungszeit hinter sich. Während dieser Zeit wurden zahlreiche Erweiterungen, Module und zusätzliche Bibliotheken entwickelt, die speziell für Tensorflow Python entwickelt wurden. Tensorflow.js hingegen ist eine vergleichsweise neuere Technologie und befindet sich möglicherweise noch in einem früheren Entwicklungsstadium. Daher hat Tensorflow.js möglicherweise weniger Bibliotheken und Erweiterungen, die speziell für diese Plattform entwickelt wurden.

2. Zielplattform: Tensorflow Python richtet sich an eine breite Palette von Plattformen, einschließlich Desktop-Computern, Servern und mobilen Geräten. Daher gibt es eine Vielzahl von spezialisierten Bibliotheken und Erweiterungen für verschiedene Anwendungsfälle und Hardwarekonfigurationen. Tensorflow.js hingegen zielt darauf ab, Modelle direkt im Browser auszuführen. Daher sind die Funktionen und Bibliotheken von Tensorflow.js auf die Anforderungen von Webanwendungen und die begrenzte Ressourcenverfügbarkeit im Browser optimiert.

3. Kompatibilität: Tensorflow.js basiert auf JavaScript, einer Sprache, die in erster Linie für Webentwicklung verwendet wird. Obwohl JavaScript eine große Entwicklergemeinschaft und viele bestehende Bibliotheken und Frameworks hat, sind nicht alle davon direkt mit Tensorflow.js kompatibel. Daher kann es sein, dass nicht alle verfügbaren Bibliotheken und Erweiterungen für Tensorflow Python auch für Tensorflow.js zur Verfügung stehen.

Es ist jedoch wichtig anzumerken, dass Tensorflow.js stetig weiterentwickelt wird und die Bibliothek und die verfügbaren Erweiterungen mit der Zeit wachsen können. Die Community rund um Tensorflow.js arbeitet daran, das Ökosystem zu erweitern und neue Bibliotheken sowie Tools bereitzustellen, um den Funktionsumfang zu verbessern und die Möglichkeiten von Tensorflow.js zu erweitern.

Plattformunterstützung

TensorFlow, das in C++ geschrieben wurde, ist eine plattformübergreifende Bibliothek, die auf verschiedenen Betriebssystemen wie Windows, macOS und Linux unterstützt wird. Es kann sowohl für die Entwicklung und Ausführung von Modellen auf Servern als auch auf Desktop-Computern verwendet werden.

TensorFlow unterstützt daher eine breitere Palette von Plattformen als TensorFlow.js, da TensorFlow.js hauptsächlich auf JavaScript-Umgebungen wie dem Browser und Node.js ausgerichtet ist.

Trainieren großer Modelle

TensorFlow kann sehr große Modelle trainieren und verarbeiten, während TensorFlow.js aufgrund der Leistungseinschränkungen von JavaScript-Engines auf kleinere Modelle beschränkt ist.

JavaScript-Engines sind im Vergleich zu spezialisierten Machine-Learning-Frameworks und Hardwarebeschleunigern wie GPUs oder TPUs weniger leistungsstark. Dies bedeutet, dass TensorFlow.js aufgrund der begrenzten Rechenleistung und des begrenzten Speichers von JavaScript-Engines in der Regel für kleinere Modelle geeignet ist.

Daher wird TensorFlow für Projekte empfohlen, bei denen große Modelle trainiert oder komplexe Berechnungen durchgeführt werden müssen, während TensorFlow.js besser für Anwendungen geeignet ist, die kleinere Modelle verwenden und in Webbrowsern oder JavaScript-Umgebungen ausgeführt werden sollen.

Warum TensorFlow.js clientseitig im Browser nutzen?

Da wäre das Thema Geschwindigkeit. Da man keine Daten an einen entfernten Server senden muss, erfolgt die Klassifizierung schneller. Zudem hat man direkten Zugriff auf die Sensoren wie Kamera, Mikrofon, GPS usw.

Außerdem ist in vielen Ländern der Datenschutz ein wichtiger Punkt. Man kann Daten auf dem eigenen Rechner trainieren und klassifizieren, ohne sie an einen externen Webserver senden zu müssen. Das kann erforderlich sein, um Datenschutzgesetze wie die DSGVO einzuhalten oder wenn man die Daten nicht an Dritte weitergeben möchte.

Mit einem Klick kann jeder auf der Welt über einen Link auf die Anwendung zugreifen und sie nutzen ohne, dass ein komplexes Setup mit Servern und spezieller Hardware wie Grafikkarten erforderlich ist.

Abschließend sollte man bei ML auch die Kosten im Blick behalten. Man muss lediglich für das hosten des Clients zahlen. Das ist deutlich günstiger als die dauerhafte Aufrechterhaltung eines eigenen Servers.

Fazit Tensorflow.js oder Tensorflow nutzen?

Insgesamt kann man die Frage Tensorflow.js oder Tensorflow vereinfacht dadurch beantworten, dass Tensorflow mit Python aufgrund seiner breiten Akzeptanz und großen Community nahezu IMMER die bessere Wahl ist. Nichtsdestotrotz gewinnt Tensorflow.js zunehmend an Bedeutung und wird überwiegend von Entwicklern genutzt, die Webanwendungen mit maschinellem Lernen clientseitig entwickeln möchten.

Das heißt, wenn du Anwendungen erstellen möchtest, die im Webbrowser laufen sollen, ist TensorFlow.js eigentlich die bessere Wahl. Wenn du jedoch Anwendungen erstellen möchtest, die auf einem Server oder einem Desktop-Computer laufen sollen, ist TensorFlow die bessere Option. Außerdem ist die Python Version viel besser geeignet, wenn du mit leistungsstarken Geräten wie GPUs arbeiten möchtest.

The post Tensorflow.js oder Tensorflow nutzen? appeared first on Nerd Corner.

Mein naiver Gedanke war, dass Tensorflow automatisch die GPU benutzen würde. Man muss allerdings erst die nachfolgende Schritt für Schritt Anleitung befolgen, damit Tensorflow die GPU überhaupt erkennt und nutzt.

Das könnte dich auch interessieren: Tensorflow.js oder Tensorflow (Python) nutzen?

DISCLAIMER: Ab Version 2.11 unterstütz Tensorflow keine GPUs mehr unter Windows! Entweder wechselt man das Betriebssystem oder downgraded Tensorflow auf Version 2.10. Außerdem wird eine Grafikkarte von NVIDIA benötigt!

1. Überprüfen der gewünschten CUDA und cuDNN Versionen

Zunächst sollte man herausfinden welche CUDA und cuDNN Version von TensorFlow benötigt wird. Auf der Webseite werden alle Versionen von Tensorflow und die gewünschte CUDA Versionen bzw. cuDNN Versionen aufgelistet: https://www.tensorflow.org/install/source_windows#gpu

2. Überprüfen der eigenen Grafikkarte

Wie bereits im Disclaimer erwähnt muss die Grafikkarte von NVIDIA sein. Auf der Webseite https://developer.nvidia.com/cuda-gpus kann man seine eigene GPU suchen und die „Compute Capability“ überprüfen. Mindestvoraussetzung für Tensorflow ist ein Wert von 3.5, der aber von allen aktuellen Grafikkarten erfüllt wird.

3. Installieren der neusten NVIDIA-Treiber

Um die GPU für TensorFlow zu aktivieren, müssen die neuesten NVIDIA-Treiber installiert sein. Einfach auf die NVIDIA-Website gehen den neuesten Treiber die eigene Grafikkarte herunterladen.

4. Installieren von Visual Studio (optional)

In TensorFlow wurden einige Teile der Bibliothek in C++ geschrieben, um die Leistung zu maximieren. Daher kann die Installation von Visual Studio dazu beitragen, die Kompatibilität und Leistung von TensorFlow zu verbessern: https://visualstudio.microsoft.com/de/vs/

Es reicht hier einzelne Komponenten auszuwählen. Ich habe hier alles mit C++ in „Compiler, Buildtools und Runtimes“ ausgewählt und zusätzlich noch MS Build, was wiederum ein paar weitere Komponenten automatisch installiert. Insgesamt aber trotzdem über 25 GB!

5. Installieren von CUDA-Toolkit

Das CUDA-Toolkit ist ein Toolkit für die Entwicklung von CUDA-Anwendungen, das von NVIDIA bereitgestellt wird. TensorFlow benötigt CUDA, um auf der GPU ausgeführt zu werden. Die in Schritt 1 verlangte Version des CUDA-Toolkits einfach von der NVIDIA-Website herunterladen und installieren: https://developer.nvidia.com/cuda-downloads

6. Installieren der cuDNN-Bibliotheken

cuDNN ist eine Bibliothek von Deep-Learning-Primitiven, die von NVIDIA bereitgestellt wird. TensorFlow benötigt zusätzlich cuDNN, um auf der GPU ausgeführt zu werden. cuDNN ist kostenlos, aber man muss einen Account als NVIDIA Developer erstellen: https://developer.nvidia.com/rdp/cudnn-download

Nach dem Download muss der Inhalt entpackt werden. Der Inhalt wirdin dem Programme Ordner in „NVIDIA GPU Computing Toolkit“ hinein verschoben. Nach dem Verschieben den Dateipfad des „bin“ Ordners kopieren.

7. PATH Variable setzen

Öffne die Umgebungsvariablen in dem du den Begriff einfach in die Windows Suche eingibst. Dann die Systemvariable „path“ bearbeiten und einen neuen Eintrag hinzufügen mit dem Dateipfad des „bin“ Ordners aus dem vorherigem Schritt.

8. Erstellen einer virtuellen Umgebung

Es wird empfohlen, TensorFlow in einer virtuellen Umgebung zu installieren, um Konflikte mit anderen Python-Paketen zu vermeiden. Idealerweise mittels Anaconda. Einfach hier downloaden und installieren: https://www.anaconda.com/download

Anschließend den Anaconda Navigator starten. Unter Environments > Create  neue Umgebung erstellen. Danach wieder auf Home klicken und eine vorhandene Python IDE von hier aus launchen. Es sollten auch zusätzliche IDEs wie PyCharm nach dem Download automatisch hier angezeigt werden.

9. Verifizieren der Tensorflow GPU Unterstützung

Um zu überprüfen, ob die TensorFlow GPU Unterstützung erfolgreich erkannt wurde, sollte zunächst in der Python IDE das Tensorflow Package installiert werden. Aber dabei beachten unter Windows wird die GPU nur bis Version 2.10 erkannt! In den nachfolgenden Versionen nicht mehr! Es muss also Tensorflow 2.10 installiert werden.

Anschließend folgenden Code laufen lassen um eine liste der verfügbaren GPUs anzuzeigen:

import tensorflow as tf

tf.config.list_physical_devices('GPU')

The post Tensorflow GPU aktivieren unter Windows appeared first on Nerd Corner.