• Capitulo 18
• Dado um conjunto de treinamento com N exemplo de pares entrada e saída $(x_1,y_1), (x_2,y_2), ..., (x_n,y_n)$ onde cada $y_i$ foi gerada por uma função f desconhecida, isto é, $y_i, f(x_i)$
• Objetivo: Descobrir a função $h$ que se aproxima a verdadeira função $f$
• x → entrada, y → saída
• x e y podem ser qualquer valor, números ou categorias, x usualmente é um vetor de valores, atributos
• A função $h$ é uma hipótese; aprendizado é uma busca no espaço de hipóteses possíveis
• Uma hipótese adequada deve representar adequadamente os exemplos de treinamento, assim como novos exemplos
• Usualmente considera-se um conjunto de teste, disjunto do conjunto de treinamento, para avaliar a qualidade de hipóteses em novos exemplos
• a função $f$pode ser estocástica, nesse caso deve se aprender então P(Y|x)
• Se os valores de y são Categóricos, o problema de aprendizado é chamado de classificação
• Se os valores de y são Cardinais, o problema de aprendizado é chamado de Regressão
• Overfitting: espaço de hipótese $\Eta$ pode ser representar bem os exemplos de treinamento, mas não os exemplos novos.
• Underfitting: espaço de hipótese $\Eta$ não pode representar bem os exemplos de treinamento

Árvore de Decisão

• Uma árvore de decisão representa uma função que recebe como entrada um vetor se entrada (atributos) e retorna um único valor, a decisão
• Cada nó interno da arvore representa um teste com relação a um dos valores dos atributos
• As arestas que saem do nó são anotadas com os valores possíveis dos atributos
• cada folha de árvore especifica um valor de retorno

Exemplo:

Predizer se um pessoa irá jogar ftênis com base nas condiçẽos meteorológicas