Edytuj stronę Odnośniki Fold/unfold all ODT export Ta strona jest tylko do odczytu. Możesz wyświetlić źródła tej strony ale nie możesz ich zmienić. ====== Wstęp do Data Mining ====== Strona kursu w Moodle: https://moodle.umk.pl/course/view.php?id=8128 ===== Zaliczenie zajęć ===== Warunki zaliczenia zajęć: * **zadania z laboratorium**: warunkiem zaliczenia zajęć jest rozwiązanie co najmniej 6 zadań z laboratorium. \\ Rozwiązania zadań, w postaci notatników Jupyter (pliki *.ipynb), należy terminowo deponować na stronie [[https://moodle.umk.pl/course/view.php?id=8128|kursu w Moodle]] lub w prywatnych repozytoriach GitHub utworzonych poprzez adresy podane na stronie kursu Moodle. Zadania przewidziane są do realizacji w czasie trwania laboratorium. Możliwe jest dokończenie zadań po zajęciach i przesłanie rozwiązania w terminie do końca tygodnia, w którym odbyły się zajęcia. Zadania przesłane po tym terminie nie będą oceniane. * **projekt zaliczeniowy:** \\ uzyskanie oceny dobrej z plusem lub bardzo dobrej, oprócz wykonania zadań z laboratorium, wymaga zrealizowania projektu w postaci aplikacji lub notatnika Jupyter demonstrującego zastosowanie wybranych metod Data Mining w praktycznych zagadnieniach. Termin wykonania projektu do 30 maja 2025 r. \\ [[projekty|Propozycje tematów projektów]] \\ **Uwaga: rozwiązanie zadań muszą być wykonane samodzielnie. Nie jest dozwolone udostępnianie rozwiązań innym osobom do skopiowania oraz wykorzystywanie narzędzi AI do generowania rozwiązań** ===== Literatura ===== * Robert Layton, //Learning Data Mining with Python//, 2015 (2017 wydanie 2) - dostęp on-line z biblioteki z sieci UMK * Pang-Ning Tan, Michael Steinbach, Anuj Karpatne, //Introduction to Data Mining (Second Edition)//, {{https://www-users.cs.umn.edu/~kumar001/dmbook/index.php|WWW}} * Sebastian Raschka, //Machine Learning with PyTorch and Scikit-Learn//, {{https://github.com/rasbt/machine-learning-book/}} ===== Plan ===== - Nie za długi wstęp do python, jupyter, numpy, pandas, matlibplot, scikit-learn, seaborn - Analiza statystyczna danych, wizualizacja danych * preprocessing: wykrywanie anomalii, braki w danych, dane odstające - Regresja * Liniowa oraz wielomianowa * problem przeuczenia: underfitting/overfitting - Klasyfikacja i ocena klasyfikatorów * regresja logistyczna * kNN * drzewa decyzyjne * SVM * walidacja krzyżowa (cross validation) - Analiza skupień * k-means * metody hierarchiczne, dendrogramy * DBSCAN - Text mining * worek słów (BOW) - Przetwarzanie obrazów * PCA do kodowania obrazów ===== Laboratoria: notatniki i zadania ===== {{page>zajecia:wdm_2025_1:sidebar#notatniki&noheader&nofooter}} ===== Środowisko pracy ===== Laboratoria realizowane są w języku Python z wykorzystaniem notatników Jupyter. Na pracowni komputerowej dostępna jest dystrybucja Anaconda (zalecane środowisko na zajęciach) zawierająca wszystkie niezbędne biblioteki i narzędzia. Możliwe jest również wykorzystanie usług umożliwiających edycję i uruchamianie notatników w chmurze, jak Google Colab lub Binder. ==== Praca lokalna w środowisku Anaconda (na pracowni lub własnym komputerze) ==== - Utwórz prywatne repozytorium GitHub za pomocą adresu aktywującego podanego w Moodle \\ https://moodle.umk.pl/mod/assign/index.php?id=8128 - Sklonuj repozytorium GitHub na swój komputer - Otwórz wiersz poleceń Anaconda i przejdź do lokalizacji repozytorium - Uruchom serwer Jupyter poleceniem \\ <code>jupyter-notebook</code> lub <code>jupyter-lab</code> - Po wykonaniu zadań zapisz notatnik (''Plik'' -> ''Zapisz'') - Wyślij rozwiązanie (plik notatnika ''.ipynb'') do repozytorium w GitHub lub umieścić notatnik w Moodle ==== Google Colab (lub Binder) ==== Google colaboratory umożliwia zapis notatników do prywatnych repozytoriów GitHub, usługa Binder umożliwia wyłącznie import publicznych repozytoriów GitHub. - Utwórz prywatną kopię repozytorium z notatnikiem poprzez link podany w Moodle \\ https://moodle.umk.pl/mod/assign/index.php?id=8128 - Uruchom notatnik w Google Colab klikając {{zajecia:mn_2020_2:colab-badge.png}} - Po wykonaniu zadania zapisz notatnik w repozytorium GitHub \\ ''Plik'' -> ''Zapisz notatnik w usłudze GitHub'' \\ lub pobierz notatnik z Google Colab ''Plik'' -> ''Pobierz'' -> ''Pobierz plik IPYNB'' i umieść ten plik w Moodle. * [[https://colab.research.google.com/|Google Colab]] (zalecane) * dostęp do GPU * wymagane konto Google i autoryzacja * edytowane notatniki można zapisać na Dysku Google lub w GitHub (także w prywatnych repozytoriach) * sesja aktywna dopóki jest otworzona w przeglądarce (max. 12h.) * [[https://mybinder.org/|MyBinder]] * tylko CPU, min. 1GB RAM * nie wymaga autoryzacji * brak możliwości zachowania zmian pomiędzy sesjami * sesja do 6 h., przerywana gdy brak aktywności przez 10 min * często długotrwała procedura konfiguracji i niestabilna praca (brak zapisu może powodować utratę danych) ===== Kilka przydatnych odnośników ===== * [[https://www.python.org/|Python]] is a programming language that lets you work quickly and integrate systems more effectively * [[https://www.learnpython.org/pl/|www.learnpython.org]] * [[https://jupyter.org/|jupyter]] The Jupyter Notebook is an open-source web application that allows you to create and share documents that contain live code, equations, visualizations and narrative text. * [[https://www.dataquest.io/blog/jupyter-notebook-tutorial/|Jupyter Notebook for Beginners: A Tutorial]] * [[https://numpy.org/|NumPy]] NumPy is the fundamental package for scientific computing with Python * [[https://numpy.org/devdocs/user/quickstart.html|NumPy tutorial]] * [[https://pandas.pydata.org/|Pandas]] is a fast, powerful, flexible and easy to use open source data analysis and manipulation tool * [[https://pandas.pydata.org/pandas-docs/stable/user_guide/10min.html|10 minutes to pandas]] * [[https://realpython.com/pandas-python-explore-dataset/#using-the-pandas-python-library|Using Pandas and Python to Explore Your Dataset]] by Reka Horvath * [[https://scikit-learn.org/stable/|scikit-learn]] Simple and efficient tools for predictive data analysis * [[https://matplotlib.org/|matplotlib]] comprehensive library for creating static, animated, and interactive visualizations in Python. * [[https://github.com/rougier/matplotlib-tutorial|Matplotlib tutorial for beginner]] by Nicolas P. Rougier * [[https://seaborn.pydata.org/|seaborn]]: statistical data visualization * [[https://www.datacamp.com/community/tutorials/seaborn-python-tutorial|Python Seaborn Tutorial For Beginners]] by Karlijn Willems * [[https://jakevdp.github.io/PythonDataScienceHandbook/04.14-visualization-with-seaborn.html|Visualization with Seaborn]] from Python Data Science Handbook by Jake VanderPlas