Cercetarea neurologică își are originea în Marea Britanie, la Universitatea din Edinburgh, profesorul Langer Higgins, rețelele neuronale cu trei straturi (inclusiv stratul de intrare, stratul ascuns și stratul de ieșire) pot apropia teoretic orice funcție continuă non-liniară, dar în aplicarea practică, rețelele neuronale profunde (Deep Neural Networks, DNNs) sunt adoptate pe scară largă. Motivul este că rețelele profunde pot gestiona mai eficient structuri de date complexe, extrăgând caracteristici la mai multe niveluri, în timp ce în eficiența de calcul și generalizarea modelului se comportă mai bine. Să presupunem că ești un artist, având la dispoziție doar trei culori de vopsea - roșu, verde și albastru, prin amestecarea acestor trei culori, poți crea aproape toate nuanțele de care ai nevoie. Totuși, doar cu tehnici simple de amestecare a culorilor, s-ar putea să nu reușești să creezi rapid lucrări complexe și delicate. Dacă introduci mai multe niveluri și unelte de amestecare, cum ar fi pistolul de vopsit, spatula sau chiar software-ul de pictură digitală, creația ta va deveni mai eficientă și expresivă. În mod similar, deși rețelele neuronale cu trei straturi pot îndeplini sarcini de bază de apropiere a funcțiilor, rețelele neuronale profunde oferă o capacitate mai puternică de a face față problemelor complexe din realitate.