ChatGPT bez wątpienia podbił internet i stał się fenomenem na skalę światową. Nie bez powodu giganci branży inwestują obecnie miliardy USD w rozwój generatywnej sztucznej inteligencji. NVIDIA sporo na tym zarabia, a teraz umożliwia stworzenie własnego chat bota dzięki mocy zamkniętej w kartach GeForce RTX 30/40.
Dostęp do takich usług jak ChatGPT-3.5, Microsoft Copilot czy bazowa wersja Google Gemini (wcześniej Bard) jest darmowy i praktycznie każdy z nas może skorzystać z możliwości sztucznej inteligencji. Wiążą się z tym często pewne ograniczenia, nie wszystko działa tak szybko jakbyśmy tego chcieli i co najważniejsze, taki bot niekoniecznie musi posiadać wiedzę, na której nam zależy. Dlatego NVIDIA postanowiła stworzyć własne oprogramowanie, które pozwala skorzystać z podobnej usługi lokalnie na własnym komputerze. Co więcej swojego bota możemy szkolić na własnych danych, które nie będą wysyłane do sieci, a jedynie przetwarzane lokalnie na naszym komputerze.
Aplikację Chat with RTX możecie już teraz pobrać ze stron NVIDIA i dowolnie ją testować, pod warunkiem, że posiadacie kartę graficzną GeForce RTX z serii 30 lub 40 (Ampere lub Ada Lovelace) wyposażoną przynajmniej w 8 GB pamięci VRAM. Od wydajności samej karty będzie zależało jak sprawnie działa nasz chatbot. Dzięki temu, że nie operuje od z zasady na tak dużych zbiorach danych, całość działa całkiem sprawnie, choć ma spore wymagania. Aplikacja stawia de facto wirtualny serwer, który zajmuje nawet 40 GB pamięci na dysku i zabiera ponad 3 GB pamięci RAM w naszym komputerze, wymaga też systemu Windows 11 oraz oczywiście wspomnianej karty graficznej. Do wyboru mamy dwa modele sztucznej inteligencji - Mistral oraz Llama2.
Jak to dokładnie działa możecie zobaczyć na poniższym wideo. W skrócie do aplikacji możemy załadować dowolny zbiór danych, np. pliki tekstowe lub PDF, które model "przeczyta" i będzie mógł na przykład podsumować albo odpowiedzieć na pytania związane z ich zawartością. Może to być ciekawe narzędzie dla dziennikarzy lub analityków danych, którzy nie będą musieli mozolnie przeglądać setek stron dokumentów, zrobi to i podsumuje znaleziska sztuczna inteligencja. Aplikacja przygotowana przez NVIDIA ma też możliwość analizowania plików wideo, de facto wystarczy wkleić link do filmy na YouTube, a resztą zajmie się sztuczna inteligencja. Taki film zostanie pobrany i przeanalizowany pod kątem zawartości. Umożliwi to np. szybkie tworzenie transkrypcji tekstowej, wyszukiwanie konkretnych zwrotów czy wreszcie tekstowe podsumowanie wideo.
NVIDIA bez wątpienia jest jedną z firm, która najmocniej skorzystała na olbrzymiej popularności generatywnej sztucznej inteligencji. Popyt na jej procesory obliczeniowe jest obecnie ogromny więc nic dziwnego, że inwestuje również w rozwój oprogramowania, które może być przydatne dla każdego. Pod warunkiem oczywiście, że taki ktoś ma kartę graficzną tej firmy. Chat with RTX to dopiero początek, ale jeśli będzie dalej rozwijany to może być bardzo ciekawą alternatywą dla wielu użytkowników, szczególnie wraz z rozwojem kolejnych modeli sztczunej inteligencji.
źródło grafiki: Depositphotos
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
