\section{Reprezentacja wiedzy w metodach klasyfikacji danych}
Proces uczenia modelu sprowadza się do pozyskiwania przez niego wiedzy na temat zagadnienia, które zostaje mu przedstawione. Cała idea polega więc na dostrojeniu parametrów modelu $\alpha$ w sposób taki aby jak najdokładniej odzwierciedlić charakterystykę zjawisk zachodzących w źródle jakim jest zbiór treningowy. \\
W zależności od budowy modelu mówi się o systemach o wiedzy zgromadzonej explicite i implicite. 
Modele explicite przedstawiają wiedzę w postaci bezpośrednio zrozumiałej dla człowieka. Do tych grup metod można zaliczyć systemy regułowe, algorytmy drzew decyzji, metody probabilistyczne, systemy bazujące na regułach rozmytych oraz systemy wnioskowania w oparciu o przypadki (Case Based Reasoning). Natomiast druga grupa klasyfikatorów ze względu na swoją budowę nie pozwala na interpretację zgromadzonej wiedzy przez człowieka, mówi się wówczas o tak zwanych czarnych skrzynkach (black box), które potrafią przeprowadzić procedurę wnioskowania jednakże człowiek pozbawiony jest możliwości jej weryfikacji. Do tego typu modeli należą miedzy innymi perceptron wielowarstwowy (multi layer perceptron, MLP) czy klasyfikatory typu SVM. Próba wydobycia wiedzy z tego typu modeli sprowadza się do dopasowania modelu typu explicite do istniejącej czarnej skrzynki.  \\
Każdy z klasyfikatorów explicite ma pewne charakterystyczne właściwości, które mają szczególne uzasadnienie dla różnych problemów. Jedną z częstych form reprezentacji wiedzy jest jej przedstawienie w postaci rozkładów prawdopodobieństw poszczególnych klas. Uczenie systemu sprowadza się do estymacji rozkładów prawdopodobieństwa a posteriori $p(C_i|\Bx)$ oraz reguły wnioskowania MAP (maksimum a posteriori). Taka forma reprezentacji wiedzy jest szczególnie przydatna ze względu na możliwość generacji przypadków. Innymi słowy zapis wiedzy w postaci rozkładów prawdopodobieństw estymowanych z danych pozwala na generację nowych przypadków na podstawie tych rozkładów  \cite{Prob-Bishop-GenerativVsDiscr}. Takie rozwiązanie znalazło zastosowanie między innymi w problemach analizy obrazów, gdzie wynik wewnętrznej reprezentacji obrazu przez nauczony model może zostać wygenerowane w postaci pikseli obrazka. Słabością metod probabilistycznych jest ograniczona możliwość zrozumienia kształtu funkcji rozkładu prawdopodobieństwa, w szczególności gdy jest on skomplikowany i poszczególne cechy są wzajemnie skorelowane. Właściwości generacyjnej niestety pozbawione są systemy regułowe oraz systemy drzew decyzji, które wydobytą wiedzą przedstawiają w postaci struktury typu: {\it jeżeli \ldots to \ldots } \cite{R-Duch-CIRules}. Cechą charakterystyczną takich systemów jest duża łatwość interpretacji wyników, gdyż w naturalny sposób jesteśmy przyzwyczajeni do analizy tego typu systemów logiki dwuwartościowej. Niestety rozwiązanie to posiada również wady. Przykładem tego jest problem klasyfikacji dwóch rozkładów gaussowskich w $\Re^2$ co przedstawia rys. \reff{fi:CrispRulesProb} 
 \bfig
    \epsfig{figure=pic/Crules.eps,width=6.0cm}
    \epsfig{figure=pic/Frules.eps,width=6.0cm}
%
  \caption{Two class problem and the decision border: a) obtained via
crisp logical rules, b) Bayesian optimal decision border }
%
  \label{fi:CrispRulesProb}
\efig 
Optymalną granicą decyzyjną (w sensie Bayesowską) takiego systemu jest prosta $\mathcal{M}(\Bx)=? x_1 + ? x_2 + ?$. Uzyskanie takiego rozwiązania przez systemy reguł twardych jest okupione dużą liczbą reguł co ogranicza zdolność interpretacji takiego systemy, zaś zmniejszenie liczby reguł zmniejsza generalizację modelu. Tak zdefiniowany problem daje się jednak zapisać w prosty sposób jako dwie reguły typu rozmytego (refuły-F) lub prototypowego (reguły-P). \\
Reguły rozmyte stanowią swego rodzaju uogólnienie reguł twardych, wprowadzając logikę rozmytą, czyli logikę wielowartościową. 
