Maskininlärning

Maskininlärning ( eng.  machine learning , ML) är en klass av artificiell intelligensmetoder , vars karaktäristiska drag inte är en direkt lösning på ett problem, utan inlärning genom att tillämpa lösningar på många liknande problem. För konstruktionen av sådana metoder används matematisk statistik , numeriska metoder , matematisk analys , optimeringsmetoder , sannolikhetsteori , grafteori , olika tekniker för att arbeta med data i digital form .

Det finns två typer av träning:

1. Fallinlärning , eller induktivt lärande , bygger på att upptäcka empiriska mönster i data .
2. Deduktivt lärande innebär formalisering av experters kunskaper och deras överföring till en dator i form av en kunskapsbas .

Deduktiv inlärning hänvisas vanligtvis till området expertsystem , så termerna maskininlärning och fallinlärning kan betraktas som synonyma.

Många induktiva inlärningsmetoder har utvecklats som ett alternativ till klassiska statistiska metoder. Många metoder är nära besläktade med informationsextraktion ( engelska  information extraction , information retrieval ), data mining ( data mining ).

Allmänt uttalande om problemet med lärande genom prejudikat

Det finns många objekt (situationer) och många möjliga svar (svar, reaktioner). Det finns ett visst beroende mellan svar och objekt, men det är okänt. Endast en ändlig uppsättning prejudikat är känd  - par "objekt, svar", som kallas träningsprovet . Baserat på dessa data krävs det att återställa det implicita beroendet, det vill säga att bygga en algoritm som kan producera ett tillräckligt exakt klassificeringssvar för alla möjliga indataobjekt. Detta beroende uttrycks inte nödvändigtvis analytiskt, och här implementerar neurala nätverk principen om en empiriskt utformad lösning. En viktig egenskap i det här fallet är inlärningssystemets förmåga att generalisera, det vill säga att adekvat svara på data som går utöver gränserna för det befintliga träningsprovet. För att mäta träffsäkerheten i svaren introduceras en uppskattad kvalitetsfunktion .

Denna formulering är en generalisering av de klassiska problemen med funktionsapproximation . I klassiska approximationsproblem är objekten reella tal eller vektorer. I verkliga tillämpade problem kan indata om objekt vara ofullständiga, felaktiga, icke-numeriska, heterogena. Dessa funktioner leder till en mängd olika maskininlärningsmetoder.

Maskininlärningsmetoder

Sektionen för maskininlärning, å ena sidan, bildades som ett resultat av uppdelningen av vetenskapen om neurala nätverk i metoder för att träna nätverk och typer av topologier i deras arkitektur, å andra sidan absorberade den metoderna för matematisk statistik [a] . Maskininlärningsmetoderna som listas nedan är baserade på användningen av neurala nätverk, även om det finns andra metoder baserade på träningsprovet, till exempel diskriminantanalys, som arbetar på den generaliserade variansen och kovariansen av den observerade statistiken, eller Bayesianska klassificerare. Grundläggande typer av neurala nätverk, såsom perceptron och flerskiktsperceptron (liksom deras modifieringar), kan tränas både med lärare och utan lärare, med förstärkning och självorganisering. Men vissa neurala nätverk och de flesta statistiska metoder kan bara hänföras till en av inlärningsmetoderna. Därför, om du behöver klassificera maskininlärningsmetoder beroende på inlärningsmetoden, skulle det vara felaktigt att tillskriva neurala nätverk till en viss typ, det skulle vara mer korrekt att skriva inlärningsalgoritmer för neurala nätverk.

• Övervakat lärande  - för varje användningsfall ställs ett par "situation, nödvändig lösning" in:

1. Artificiellt neuralt nätverk
   1. Djup lärning
2. Felkorrigeringsmetod
3. Ryggförökningsmetod
4. Stöd vektor maskin

• Oövervakad inlärning  - för varje användningsfall specificeras endast en "situation", det krävs att gruppera objekt i kluster med hjälp av data om parvis likhet mellan objekt och/eller minska datadimensionen:

1. Alpha förstärkningssystem
2. Gamma förstärkningssystem
3. Närmaste granne metod

• Förstärkningsinlärning  - för varje användningsfall finns det ett par "situation, beslut":

1. Genetisk algoritm .

• Aktivt lärande är annorlunda genom att inlärningsalgoritmen har förmågan att självständigt tilldela följande situation som studeras, där det korrekta svaret kommer att bli känt:
• Semi-övervakat lärande - för vissa fall är ett par "situation, nödvändig lösning" satt, och för vissa - endast " situation  "
• Transduktivt lärande  - lärande med delvis involvering av läraren, när prognosen är tänkt att göras endast för prejudikat från testprovet
• Multi-task learning ( eng.  multi-task learning ) - simultan inlärning av en grupp av sammanhängande uppgifter, för var och en av vilka deras egna par av "situation, nödvändig lösning" ställs in
• Flerinstansinlärning är inlärning när prejudikat kan kombineras i grupper, i var och en av vilka det finns en "situation" för alla prejudikat, men bara för ett av dem (detta är det inte känt vilket) det finns ett par " situation , 
• Boosting är en  procedur för att sekventiellt konstruera en sammansättning av maskininlärningsalgoritmer, när varje nästa algoritm försöker kompensera för bristerna i sammansättningen av alla tidigare algoritmer.
• Bayesiskt nätverk

Klassiska problem lösta med maskininlärning

• Klassificering sker vanligtvis genom handled inlärning på själva inlärningsstadiet.
• Klustring sker vanligtvis genom oövervakat lärande
• Regression , vanligtvis utförd av övervakat lärande under testfasen, är ett specialfall av prognosproblem .
• Datadimensionalitetsreduktion och datavisualisering görs med oövervakad inlärning
• Rekonstruktion av sannolikhetsfördelningstätheten från en datamängd
• Enklassificering och detektering av nyheter
• Bygga rangberoenden
• Anomali upptäckt

Typer av träningsingångar

• En attributbeskrivning av objekt eller en matris av objektattribut är det vanligaste fallet. Varje objekt beskrivs av en uppsättning funktioner.
• Avståndsmatris mellan objekt. Varje objekt beskrivs av avstånd till alla andra objekt i träningsprovet, oftast genom parvisa likhetsrelationer.
• Tidsserie eller signal . Sekvensen av mätningar i tid, som kan representeras av ett nummer, en vektor, och i det allmänna fallet - en vägledande beskrivning vid en given tidpunkt.
• Bild- eller videosekvens .
• oformaterad text med Natural Language Processing .

Typer av kvalitetsfunktioner

• När man lär sig med en lärare  kan kvalitetsfunktionen definieras som det genomsnittliga felet för svaren. Det antas att den önskade algoritmen ska minimera den. För att förhindra överanpassning läggs ofta en regularizer till explicit eller implicit till kvalitetsfunktionen för att minimeras.
• I oövervakat lärande  kan kvalitetsfunktioner definieras på olika sätt, till exempel som förhållandet mellan genomsnittliga avstånd mellan kluster och inom kluster.
• I förstärkningsinlärning  bestäms kvalitetsfunktionerna av den fysiska miljön, vilket visar kvaliteten på agentens anpassning.

Praktiska applikationer

Syftet med maskininlärning är den partiella eller fullständiga automatiseringen av att lösa komplexa professionella problem inom olika områden av mänsklig aktivitet.

Maskininlärning har ett brett utbud av tillämpningar :

• Taligenkänning
• Gesterigenkänning
• Handskriftsigenkänning
• Mönsterigenkänning
• Teknisk diagnostik
• Medicinsk diagnostik
• Tidsserieprognos _
• Bioinformatik
• Spårning av bedrägerier
• Spam upptäckt
• Dokumentkategorisering
• Aktieteknisk analys
• Finansiell tillsyn (se även Ekonomiska brott )
• Kreditpoäng
• Förutsägelse av kundavgång
• Kemoinformatik
• Att lära sig rangordna i informationssökning

Omfattningen av maskininlärning utökas ständigt. Den utbredda informationen leder till ackumulering av enorma mängder data inom vetenskap, produktion, affärer, transporter och hälsovård. Problemen med prognoser, kontroll och beslutsfattande som uppstår i detta fall reduceras ofta till lärande genom prejudikat. Tidigare, när sådana uppgifter inte fanns tillgängliga, var dessa uppgifter antingen inte satta alls eller löstes med helt andra metoder.

Se även

• Djup lärning
• Quantum Machine Learning
• Artificiell intelligens

Anteckningar

Kommentarer

1. ↑ Enligt den välkände maskininlärningsspecialisten Jan LeCun är maskininlärning reproduktion av tänkande baserat på artificiella neurala nätverk [1]

Fotnoter

1. ↑ LeCun, 2021 , sid. 78.

Litteratur

• Ayvazyan S. A. , Enyukov I. S., Meshalkin L. D. Tillämpad statistik: grunderna för modellering och primär databehandling. - M .: Finans och statistik, 1983.
• Ayvazyan S. A., Enyukov I. S., Meshalkin L. D. Tillämpad statistik: studiet av beroenden. - M .: Finans och statistik, 1985.
• Ayvazyan S. A., Buchstaber V. M. , Enyukov I. S., Meshalkin L. D. Tillämpad statistik: klassificering och dimensionsreduktion. - M .: Finans och statistik, 1989.
• Vapnik VN Rekonstruktion av beroenden baserat på empirisk data. — M.: Nauka , 1979.
• Zhuravlev Yu. I. , Ryazanov V. V., Senko O. V. "Erkännande". Matematiska metoder. Mjukvarusystem. Praktiska tillämpningar. — M.: Fazis, 2006. ISBN 5-7036-0108-8 .
• Zagoruiko NG Tillämpade metoder för data- och kunskapsanalys. - Novosibirsk: IM SO RAN, 1999. ISBN 5-86134-060-9 .
• Flach P. Maskininlärning. - M. : DMK Press, 2015. - 400 sid. — ISBN 978-5-97060-273-7 .
• Shlesinger M., Glavach V. Tio föreläsningar om statistisk och strukturell igenkänning. - Kiev: Naukova Dumka , 2004. ISBN 966-00-0341-2 .
• Hastie, T., Tibshirani R., Friedman J. Elementen för statistiskt lärande: Data Mining, inferens och förutsägelse . — 2:a uppl. - Springer-Verlag, 2009. - 746 sid. - ISBN 978-0-387-84857-0 . .
• Mitchell T. Machine Learning. — McGraw-Hill Science/Engineering/Math, 1997. ISBN 0-07-042807-7 .
• Ryszard S. Michalski, Jaime G. Carbonell, Tom M. Mitchell (1983), Machine Learning: An Artificial Intelligence Approach , Tioga Publishing Company, ISBN 0-935382-05-4 ( Machine Learning: An Artificial Intelligence Approach  in Google Books " ).
• Vapnik V. N. Statistisk inlärningsteori. — NY: John Wiley & Sons, Inc., 1998. [1]
• Bernhard Schölkopf , Alexander J. Smola Lärande med kärnor. Stöd Vector Machines, Regularization, Optimization och Beyond. - MIT Press , Cambridge, MA, 2002 ISBN 978-0-262-19475-4 [2]
• I. H. Witten , E. Frank Data Mining: Practical Machine Learning Tools and Techniques (andra upplagan). — Morgan Kaufmann, 2005 ISBN 0-12-088407-0 [3]
• Liang Wang, Li Cheng, Guoying Zhao. Maskininlärning för mänsklig rörelseanalys. - IGI Global, 2009. - 318 sid. - ISBN 978-1-60566-900-7 .
• Jan LeCun . Hur en maskin lär sig. En revolution inom neurala nätverk och djupinlärning. (Sber Library: Artificiell intelligens). - M . : Alpina facklitteratur, 2021. - ISBN 978-5-907394-29-2 .

Länkar

• Weka: Data Mining Software i Java
• www.MachineLearning.ru  är en professionell wikiresurs dedikerad till maskininlärning och datautvinning
• MMRO - Mathematical Methods of Pattern Recognition
• Konstantin Vorontsov . Föreläsningskurs Matematiska undervisningsmetoder enligt prejudikat , Moskvainstitutet för fysik och teknik , 2004—2008
• Konstantin Vorontsov . Maskininlärningskurs på Yandex dataanalysskola .
• Igor Kuralenok . Maskininlärningskurs Lectorium.
• Roman Shamin . Kurs "Machine Learning and Artificiell Intelligens in Mathematics and Applications" . REC från Matematiska Institutet. V. A. Steklov RAS

Ordböcker och uppslagsverk	stor kines stor kines Stor norsk Britannica (online) Treccani
I bibliografiska kataloger	GND : 4193754-5 J9U : 987007541156405171 LCCN : sh85079324 NDL : 001210569 NKC : ph126143