CARE

O projekte Projekt CARE vznikol ako odpoveď na rastúci problém kyberšikany a online rizík, ktorým sú deti a tínedžeri vystavení každý deň. Inšpirovali nás znepokojivé štatistiky o tom, že až 75 % detí vo veku 9-16 rokov zažilo kyberšikanu, a zároveň sme si uvedomili, že existujúce nástroje na ochranu detí buď narúšajú ich súkromie, alebo nie sú dostatočne efektívne.

Cieľom projektu je poskytnúť rodičom a deťom nástroj, ktorý pomáha rozpoznať a riešiť kyberšikanu a iné online hrozby, bez narušenia súkromia dieťaťa. CARE využíva pokročilú AI technológiu na analýzu správania v online komunikácii a poskytuje rodičom upozornenia len vtedy, keď je to nevyhnutné, čím sa zabezpečí ochrana súkromia detí. Zároveň aplikácia ponúka aj AI asistenta, ktorý pomáha deťom pochopiť rizikové správanie a navrhuje riešenia.

Inšpirácia Projekt vznikol ako reakcia na potrebu moderného a efektívneho nástroja na ochranu detí pred kyberšikanou. Po rozhovoroch s rodičmi, učiteľmi a odborníkmi na bezpečnosť detí v online prostredí sme zistili, že mnohí rodičia majú obavy, ale nie sú si istí, aké nástroje by im mohli pomôcť. Naša inšpirácia pramení z myšlienky, že by sme mali vytvoriť nástroj, ktorý nielen chráni deti pred online hrozbami, ale aj vzdeláva a podporuje ich v riešení týchto problémov skôr, než sa dostanú k rodičom.

Výzvy Pri vývoji aplikácie sme sa stretli s niekoľkými technickými a etickými výzvami:

Šifrovanie a bezpečnosť dát: Ako zabezpečiť, aby všetky dáta boli bezpečne šifrované a deti mali istotu, že ich osobné informácie nie sú zneužité? Tento problém sme vyriešili pomocou end-to-end šifrovania, ktoré zaručuje, že dáta sú chránené pred neautorizovaným prístupom.

Udržanie súkromia dieťaťa: Je dôležité, aby rodič mal prehľad o rizikách, ale nevidel každý detail komunikácie svojho dieťaťa. Navrhli sme systém, ktorý detekuje len rizikové správanie a upozorní rodiča, bez zobrazenia konkrétnych správ.

Technická náročnosť AI analýzy: Trénovanie AI modelov na rozpoznávanie kyberšikany a toxického správania je zložitý proces. Musí sa zabezpečiť, aby AI dokázala správne identifikovať aj iróniu, sarkazmus a nepriame formy šikany, čo si na začiatku vyžiadá veľké množstvo dát a testovania.

Legislatívne výzvy: Aplikácia musí byť v súlade s právnymi predpismi ako GDPR a COPPA, ktoré chránia deti a ich údaje online. Všetky technológie a procesy sme prispôsobili týmto prísnym reguláciám.

Čo sme sa naučili Dôležitosť rovnováhy medzi ochranou súkromia a bezpečnosťou: Počas vývoja sme si uvedomili, že na ochranu detí pred kyberšikanou je nevyhnutné nájsť rovnováhu medzi ochranou ich súkromia a zabezpečením dostatočného prehľadu pre rodičov.

Rodičia potrebujú nielen nástroj, ale aj vzdelávanie: Zistili sme, že rodičia nevyžadujú len monitorovací nástroj, ale aj vzdelávacie materiály, ktoré im pomôžu pochopiť, ako reagovať na rizikové správanie ich detí.

Technológia musí byť prístupná a užívateľsky prívetivá: Keďže projekt je zameraný na rodičov a deti, bolo nevyhnutné, aby aplikácia bola jednoduchá na používanie a intuitívna, bez toho, aby pôsobila príliš invazívne.

Ako sme projekt vybudovali Projekt sme začali s detailným prieskumom trhu a analýzou potrieb rodičov a detí. Na základe získaných dát sme navrhli prvotný prototyp aplikácie. Pri vývoji technológie sme sa zameriavali na AI, šifrovanie a ochranu osobných údajov, aby sme zabezpečili, že riešenie bude efektívne, bezpečné a v súlade s právnymi normami.

Budúcnosť projektu V budúcnosti plánujeme rozšírenie aplikácie o nové funkcie, ako je podpora ďalších platformiem, zlepšenie detekcie rizikového správania a rozšírenie o ďalšie vzdelávacie nástroje pre rodičov a deti. Naším cieľom je stať sa lídrom v oblasti ochrany detí online a vytvoriť bezpečné prostredie, v ktorom sa deti môžu slobodne vyjadrovať, učiť sa a rásť.

Built With

• ai
• ai-modely)
• cloud
• express.js.-platformy:-react-native-(mobilne-aplikacie)
• firebase-(autentifikacia
• flask-(backend-api)
• google
• heroku-(backend-hosting)
• javascript-(react-native-pre-mobilne-aplikacie)
• jazyky:-python-(backend
• keras-(ai)
• notifikacie).-cloudove-sluzby:-aws-(lambda
• rds)
• s3
• sql-(databazy).-ramce:-tensorflow