Τεχνητή νοημοσύνη και κυβερνοασφάλεια

Μαθησιακοί στόχοι

• Εντοπισμός των καθημερινών χρήσεων της ΤΝ και εξήγηση του τρόπου με τον οποίο η ΤΝ αναγνωρίζει μοτίβα και υποστηρίζει προβλέψεις.
• Περιγραφή του τρόπου με τον οποίο η ΤΝ μπορεί να υποστηρίξει τους αμυνόμενους στην κυβερνοασφάλεια για τον εντοπισμό ανωμαλιών, ύποπτων συνδέσεων και αποπειρών phishing.
• Αναγνώριση των κινδύνων που συνδέονται με την παραγωγική ΤΝ, όπως η διαρροή δεδομένων, η υπερβολική εμπιστοσύνη, οι παραισθήσεις (hallucinations) και η μη ασφαλής διατύπωση προτροπών (prompting).
• Εντοπισμός των τρόπων με τους οποίους οι επιτιθέμενοι ενδέχεται να χρησιμοποιήσουν την ΤΝ για τη δημιουργία ρεαλιστικού phishing, απατών, ψεύτικων αλληλεπιδράσεων υποστήριξης και deepfake ήχου ή βίντεο.
• Εφαρμογή πρακτικών ασφαλούς χρήσης της ΤΝ, αποφεύγοντας την κοινοποίηση ευαίσθητων δεδομένων, επαληθεύοντας τα αποτελέσματα και ακολουθώντας τις πολιτικές του οργανισμού.
• Εξήγηση των βασικών παραμέτρων κυβερνοασφάλειας για τα συστήματα ΤΝ, όπως η ιδιωτικότητα, η επεξηγησιμότητα, η στιβαρότητα και η επαληθευσιμότητα.
• Αξιολόγηση του κατά πόσον ένα μήνυμα, μια σύνοψη ή ένα αίτημα που έχει δημιουργηθεί από ΤΝ πρέπει να θεωρηθεί αξιόπιστο, να επαληθευτεί, να κλιμακωθεί ή να απορριφθεί.

Προαπαιτούμενα

• Δεν απαιτούνται τεχνικές προϋποθέσεις.
• Συνιστάται βασική ψηφιακή παιδεία και εξοικείωση με τα καθημερινά εργαλεία του χώρου εργασίας.
• Το μάθημα είναι κατάλληλο για μη τεχνικούς εκπαιδευόμενους και δεν απαιτεί εμπειρία σε προγραμματισμό, ανάπτυξη ΤΝ ή λειτουργίες κυβερνοασφάλειας.

Θέματα που καλύπτονται

Ενότητες