Oto propozycja opisu projektu "SafeSpace" przygotowana zgodnie z wymaganymi nagłówkami.


Inspiration

Inspiracją dla stworzenia SafeSpace była chęć połączenia zaawansowanych możliwości generatywnej sztucznej inteligencji (Gemini) z odpowiedzialnym podejściem do bezpieczeństwa użytkownika w kryzysie emocjonalnym. Zauważyliśmy lukę: wiele narzędzi typu chatbot oferuje wsparcie, ale brakuje w nich solidnej, lokalnej warstwy "bezpiecznikowej", która w czasie rzeczywistym oceniałaby ryzyko i odpowiednio reagowała, zanim użytkownik otrzyma odpowiedź od modelu AI. Chcieliśmy stworzyć narzędzie, które priorytetyzuje bezpieczeństwo nad samą konwersacją.

What it does

SafeSpace to pełnostackowa aplikacja internetowa dedykowana wsparciu w trudnych sytuacjach emocjonalnych. Główne funkcje obejmują:

  • Lokalna klasyfikacja ryzyka: każdy komunikat użytkownika jest analizowany przez lokalny model jeszcze przed wysłaniem zapytania do Gemini.
  • Warstwowe zarządzanie kryzysowe: system automatycznie wykrywa poziom ryzyka i przydziela odpowiedni tryb:
    • NORMAL / LEVEL_1_SUPPORT: rozmowa wspomagana przez AI.
    • LEVEL_2_BLOCK / EMERGENCY: automatyczna blokada AI i wyświetlenie instrukcji pomocy kryzysowej.
  • Prywatność i bezpieczeństwo: szybkie wyjście ze strony, animacja "niszczenia" czatu oraz brak trwałej bazy danych (sesje w pamięci RAM).

How we built it

Projekt opiera się na architekturze typu split-stack:

  • Frontend: Zbudowany w React 18 z użyciem TypeScript, Vite oraz Tailwind CSS dla szybkiego i nowoczesnego UI.
  • Backend: Aplikacja w FastAPI, która zarządza logiką czatu i orkiestracją usług.
  • AI/ML: * Klasyfikacja: Wykorzystaliśmy lokalny model do analizy ryzyka (probabilistyka prob_1 oraz heurystyki kliniczne).
    • Generowanie odpowiedzi: Integracja z Gemini API z odpowiednio dostosowanym system promptem.
    • Orkiestracja: Usługi (safety_service, gemini_service, xai_service) zarządzają przepływem danych od analizy sentymentu po końcową odpowiedź.
  • Infrastruktura: Konteneryzacja przy użyciu Docker Compose do łatwego wdrażania środowiska.

Challenges we ran into

Największym wyzwaniem było zaprojektowanie systemu "safety gatingu", który jest na tyle czuły, by wyłapać realne zagrożenie, ale na tyle inteligentny, by nie blokować użytkownika przy zwykłej rozmowie o smutku. Implementacja modelu wymagała precyzyjnego przygotowania zbioru danych i doboru odpowiednich parametrów.

Accomplishments that we're proud of

  • Stworzenie systemu, który łączy lokalną analizę ML z zewnętrznym LLM
  • Implementacja przejrzystych i responsywnych mechanizmów bezpieczeństwa (szybkie wyjście, jasne komunikaty kryzysowe).
  • Stworzenie modułowej architektury backendu, która pozwala na łatwe podmienianie modeli klasyfikujących w przyszłości.

What we learned

Podczas pracy nad SafeSpace zrozumieliśmy, że przy budowaniu narzędzi AI dla zdrowia psychicznego, "bezpieczeństwo" nie jest dodatkiem, lecz fundamentem. Nauczyliśmy się, jak efektywnie zarządzać stanem sesji w środowisku bezstanowym oraz jak ważne jest precyzyjne projektowanie system promptów dla modeli LLM.

What's next for [Ogólna][fiatPanda(s)]SafeSpace

W kolejnych krokach planujemy:

  • Postawienie LLM lokalnie aby nie korzystać z zewnętrznych API
  • Lepszy klasyfikator oparty na sieciach neuronowych
  • Rozwój wytłumaczalności modelu
  • Dodanie kolejnych języków

Built With

Share this project:

Updates

Submission history