Jak klikr trénink na svět přišel
Říká se, že klikr trénink není ani tak výcviková metoda jako styl života. Příběh dvou studentů psychologie a jednoho biologa je příběhem o tom, jak se ze stylu života stala výcviková metoda.
Dovolte mi začít u mladé studentky Marian Kruse, která se na univerzitě v Minnesotě zapsala na studium cizích jazyků a historie. Po absolvování semináře psychologie u mladého profesora Burhusse Frederica Skinnera svoje zaměření změnila na hlavní směr psychologie a latina s vedlejším směrem dětskou psychologií a řečtinou. Když si v roce 1940 běžela ošetřit pokousání od jednoho z laboratorních potkanů, vrazila do dalšího studenta psychologie Kellera Brelanda. Tato srážka vyústila v jejich svatbu o rok později. Oba dva úspěšně promovali a pokračovali v doktorandském studiu psychologie (Marr, 2002).
B. F. Skinner byl psycholog, který ve své knize přednesl myšlenku, že existují dva typy podmiňování. Při podmiňování reflexů pavlovovského typu se posiluje reakce na nový stimul za pomoci stimulu již existujícího. Při podmiňování, které Skinner označil za operantní, se operant (chování) stává silnější, pokud je jeho výskyt následován posilujícím stimulem. Analyzoval chování a zkoumal metody jeho ovlivnění. Většinou pracoval se zvířaty v kontrolovaném prostředí laboratoře a za využití mechanických pomůcek, které sypaly zvířatům jídlo jako odměny a měřily četnosti chování zvířete. Rovněž uvedl, že "negativně" podmiňovat reakci, například dát potkanovi po stisknutí páčky elektrický šok, sice povede k tomu, že zvíře nebude v budoucnu páčku mačkat, ale zároveň dochází k pavlovovskému podmiňování strachové reakce v přítomnosti stimulu – páčky. Reakce tak neprobíhá ne proto, že by nebyla v repertoáru zvířete, ale proto, že ji potlačuje emocionální stav. Pro odstranění chování používal vyhasnutí chování, tedy absenci posilujících stimulů, díky které se síla chování snížila (Skinner, 1938).
Z interview s B. F. Skinnerem, ukazující některé Skinnerovy boxy a pár myšlenek o rozvrzích odměn a svobodné vůli.
Na konci roku 1941 vstoupily Spojené státy do druhé světové války. Mnoho vědců se tehdy zapojovalo do válečného úsilí a Skinner nebyl výjimkou. Jeho specializací bylo učení zvířat a založil Projekt Pelikán, kvůli kterému přerušilo své studium několik studentů, aby mu asistovali, mezi nimi i Marian a Keller Brelandovi. V tomto projektu učili holuby navádět raketové bomby na cíl tím, že holubi rozpoznávali podle fotek určité rozmístění budov (obvykle nepřátelské továrny) a klováním do obrazu naváděli bombu na správnou trajektorii, pokud by se odchýlila. V roce 1943 byly výsledky, i když proti chování holubů nebyly žádné námitky vzneseny (Marr, 2002).
Válku Americe vyhrála atomová bomba, ale nám přinesla tvarování. Když Skinner se svými studenty Kellerem Brelandem a Normanem Guttmanem zatoužil po přestávce od učení holubů navádět bomby, rozhodli se, že naučí holuba hrát bowling. Dali ho do krabice spolu s dřevěným míčkem a chtěli spustit krmítko, jakmile do míčku holub ťukne zobákem. Ten se ale k ničemu neměl, až trojici vědců přestalo čekání bavit a rozhodli se holuba odměnit po jakémkoli přiblížení se k míčku. S překvapením zjistili, že zakrátko holub honil míček po krabici, jako by chtěl hrát squash. Bylo to poprvé, kdy Skinner k učení chování nepoužíval automaty a pečlivou úpravu prostředí, ale vlastní oči a ruce. I když nebyl první, kdo takový postup při tréninku zvířat použil, byl první, kdo propojil teorii s praxí a nazval ho tvarování (shaping), protože "tvaroval chování podobně, jako tvaruje sochař hlínu" (Peterson, 2004). Těžko si to dnes představit, ale za to, že dnes netvarujeme psy se složitými přístroji, vděčíme třem vědcům, kteří se nudili.
Když manželé Brelandovi viděli, co je možné zvířata naučit aplikací teoretických poznatků, rozhodli se nechat studia přerušená a zjistit, zda je aplikace Skinnerových teorií o chování dokáže uživit. V roce 1943 koupili malou farmu a v domácí laboratoři pracovali se psy, kočkami, slepicemi, prasaty, kachnami i křečky (Bailey and Gillaspy, 2005). Původně se chtěli zaměřit na trenéry domácích mazlíčků, psí kosmetické salóny, veterináře a výrobce krmiv. Tehdy ale k výcviku zvířat většina trenérů používala averzivní techniky a hlavním výukovým nástrojem bylo vyhnutí se trestu. Trenéři psů měli vůči odměnám, které Brelandovi používali, předsudky (Marr, 2002). Spolužáci jim prorokovali neúspěch. Skinner chtěl, aby pokračovali ve studiích (Bailey and Gillaspy, 2005). Přes to všechno v roce 1947 založili firmu Animal Behavior Enterprises, která měla tři hlavní cíle – produkci trénovaných zvířat, výzkum a poradenství (Cook-Hasley and Wiebers, 1999).
Podmiňování sekundárního posilovače - píšťalky.
http://www3.uca.edu/iqzoo/History/keller_breland.htm
Pro trénink zvířat používali výhody přesného sekundárního posilovače (píšťalka nebo klikr), který fungoval jako signál, že přichází primární posilovač (jídlo). Protože to byl stimul, který propojoval chování s odměnou, tak sekundární posilovač Brelandovi označili jako přemosťující stimul (Bailey and Gillaspy, 2005). Později trenéři výraz zkrátili na "přemostění" (bridge) a používali ho jak pro předmět, tak pro jeho funkci posilovače (Patient Like a Chipmunk, 2011).
Prvním zákazníkem byli General Mills, se kterými spolupracovali na projektu Pelikán. Brelandovi cvičili zvířata pro propagační upoutávky na krmiva General Mills v rámci veletrhů. Ze začátku byla zvířata umístěna do skleněných beden po vzoru Skinnerova boxu, protože se ale ukázalo, že zůstávají dobrovolně na stanovišti i bez bariér, brzy trenéři boxy přestali používat. Show byly poloautomatické v tom smyslu, že zvířata reagovala na povely startovacího tlačítka, nepotřebovala přítomnost trenéra (Bihm et al., 2010a). Brelandovi vedli pro zaměstnance General Mills kurzy o technikách operantního podmiňování a psané manuály s postupy, jak udržet u zvířat naučené chování (Marr, 2002).
V roce 1950 se Brelandovi rozhodli opustit studenou Minnesotu a zakoupili farmu v Hot Springs, Arkansasu. Na letištích, cestách v Národním parku a Národních lesích trénovali na volno se pohybující psy, kočky, vrány a holuby. Na farmu jezdili studenti a učitelé psychologie, aby dělali svůj vlastní výzkum, přes léto tam pracovali a hlavně se něco naučili, protože to bylo jediné centrum na světě, které se věnovalo tréninku zvířat pomocí operantního podmiňování (Marr, 2002).
Králík "hraje" na piáno a slepice "tančí".
http://www3.uca.edu/iqzoo/History/keller_breland.htm
V roce 1955 v Hot Springs otevřeli IQ Zoo, která sloužila jednak jako tréninková laboratoř, druhak jako atrakce pro turisty (Bailey and Gillaspy, 2005). Většina představení byla shodná s tím, co bylo vytvořeno pro General Mills – králík hrající na piano, tančící slepice či slepice hrající baseball, mývalové hrající basketball, králíci táhnoucí hasičské auto, kachny hrající na kytaru, nebo kakaduové řešící matematické rovnice (Bihm at al., 2010a; 2010b).
Slepice hrající baseball (Patient Like a Chipmunk, 2011).
Práce Brelandových nebyla příliš známá v akademických kruzích zejména proto, že málo publikovali. Vydali jen dva články A Field of Applied Animal Pchychology (1951) a The Misbehavior of Organisms (1961) a jednu učebnici Animal Behavior (1966). Marian nedostatek odborných článků z jejich pera zdůvodňovala tím, že chování, které bylo odměnami posilováno, bylo trénování zvířat, nikoli psaní o tréninku. Že vydali alespoň něco, vysvětlil Keller tak, že to přeci jen byli vědci a brali to jako intelektuální stimulaci, a zároveň to "byla zábava" (Bailey and Gillaspy, 2005).
Z uvedených odborných textů je pravděpodobně nejznámější článek The Misbehavior of Organisms, kde popisují případy chování zvířaty, která jako by porušovala zákony operantního podmiňování. U několika druhů zvířat opakovaně docházelo k tomu, že i naučené chování zvíře po čase přestávalo dělat a nahrazovalo ho chováním jiným, přestože za nesprávné chování nedostávalo žádný posilovač. Například slepice, která měla jen stát na místě, hrabala nohama. Mýval, který měl sbírat a ukládat mince do modelu banky, si je místo toho třel o břicho a vzdával se jich jen velmi neochotně (Breland and Breland, 1961). Skinner tvrdil, že neexistuje nesprávné chování, pokud zvíře dělá něco, co by nemělo, tak trenér neuspěl v kontrole, manipulaci nebo rozpoznání všech proměnných (Bihm, 2010b). Většinou měla tato chování něco společného s potravním chováním (slepice hrabe, aby našla potravu, mýval otíráním raka zbavuje krunýře). Tento jev nazvali instinktivním driftem a prohlásili, že určitá chování mají u zvířat evolučně zafixovaná vzorce, že mohou přebít už naučená chování. Upozornili na přesvědčení, že chování zvířete nemůže být pochopeno, předvídáno a ovládáno bez znalosti instinktivního chování, evolučního vývoje a ekologické niky zvířete (Breland and Breland, 1961).
Více se Brelandovi věnovali informování a vzdělávání široké veřejnosti. Objevili se v několika televizních pořadech a ABE natočila dva dokumenty (Frances and Her Rabbit, 1961 a Lucky Learns a Trick, 1954). Existuje záznam o 308 článcích v novinách, časopisech či reklamních brožurách z let 1947 - 1966, ve kterých je zmíněna ABE, Brelandovi či učení zvířat založené na aplikaci operantního podmiňování. Napsali více než 20 článků do časopisů pro majitele domácích mazlíčků, zejména psů. Zároveň se snažili sdělit, že trénink má základ v psychologii (objevilo se v 59 % článků) a že se zakládá na vědeckých poznatcích (27 % článků). V 37 % se objevilo i slovo behaviorální nebo behavioralismus. Že se zvířata něco naučila díky posilování nebo podmiňování se objevilo v 19 % textů. V celé čtvrtině článků bylo zdůrazněno, že tresty jsou ve výcviku nejen zbytečné, ale i nežádoucí. Zvířata byla často prezentovaná spíše jako vzdělaná než vycvičená (Bailey and Gillaspy, 2005).
Právě díky článku o IQ Zoo, který vyšel v Times, kontaktoval Brelandovy ředitel Mořského světa na Floridě Bill Rolleston (Bailey and Gillaspy, 2005). Keller Breland vytvořil první show mořských savců založenou na vědeckých postupech (Bihm et al., 2010b). Stejnou službu poskytli i Pacifickému mořskému světu a Papoušcí džungli, první show papoušků učených pomocí operantního podmiňování (Bailey and Gillaspy, 2005). Ale nejen, že učili zvířata, jak provádět show, vysvětlovali a učili techniky operantního podmiňování i ošetřovatele zvířat, kteří za sebou neměli žádné vysokoškolské studium psychologie (Bihm et al., 2010b). Dnešní tréninkové programy mořských savců mohou být vystopovány až k Brelandovým skrze prvního ředitele tréninku Mořského světa Kenta Burgesse, který s Brelandovými spolupracoval od roku 1953 až do roku 1964
Díky úspěchům s delfíny v mořských světech získali Brelandovi v roce 1962 kontrakt s americkým námořnictvem (Bihm et al., 2010b). Námořnictvo tehdy nemělo ještě žádné delfíny, zato na trénink určila 12 civilistů, přičemž ředitelem tréninku se stal Robert Bailey. Mimo to, že byl zoolog a biolog, měl značné vůdcovské charisma a projekt ho nadchnul. Bob Bailey vzpomíná na první setkání s konzultanty Brelandovými, kteří je místo trénování delfínů učili, jak se cvičí slepice. Nicméně po roce příprav vypustil do volného oceánu prvního delfína, jehož úkolem bylo najít loď námořnictva, která byla přibližně míli vzdálená, označit její nález stisknutím tlačítka a vrátit se. Při tomto úkolu míjel nejen hejna ryb, ale i hejna divokých delfínů. Přesto plnil úkol neomylně, což Brelandovým ukázalo, že posilovačem pro delfína není až tak potrava, jako i lidští společníci. Úspěšná demonstrace výsledků tréninku vedla k tomu, že se delfíni, velryby a lachtani začali využívat pro transport různých pomůcek, zpráv i nalezení cvičných torpéd. Keller nabídl Bobu Baileymu, aby od námořnictva odešel a začal pracovat v ABE. Ten odmítl a spolu s doktorem Samem Ridgwayem propracovali ošetřování a zdravotní péči o delfíny, která je dnes součástí všech velkých delfíních show (Marr, 2002).
Robert Bailey a jeho první delfín vypuštěný do volného moře.
http://www3.uca.edu/iqzoo/History/bob_bailey.htm
Dovolím si teď na chvíli odbočit od úspěchů v profesním životě a podíváme se o něco blíže na rodinný život Brelandových. Třetí dítě, dcera, se narodila v roce 1954 s těžkou mentální retardací. Při výchově dcery Marian napadlo, že stejné principy používané pro trénink zvířat by mohly změnit chování pečovatelů o postižené děti. Ve spolupráci s Pinecrest Training School v Lousianě vedla vzdělávací program pro ošetřovatele, kde vysvětlovala metodologie operantního podmiňování. S pomocí slova jako "hodný", které bylo spojené s primárním posilovačem jídlem, učili děti, aby v klidu seděly na židli a nechaly se nakrmit, aby spolupracovaly při oblékání bez nutnosti násilné manipulace. Program byl tak úspěšný, že se pak podílela na vydání manuálu Teaching the Mentally Retarded (Marr, 2002).
Bohužel se u Kellera objevila srdeční choroba, na kterou v roce 1965 zemřel. Marian ale nezůstala na všechno sama. Když Bob Bailey poslal své kondolence, nabídla mu znovu místo v ABE. Tentokrát už měl Bob námořnictva dost a přestěhoval se i s rodinou do Hot Springs, aby v ABE zaujal místo generálního manažera (Marr, 2002; Cook-Hasley and Wiebers, 1999).
Během války ve Vietnamu ABE pracovalo na několika projektech pro armádu. Různé druhy delfínů, ptáků, psů, koček a jiných zvířat mělo za úkol činnosti, které museli často provádět na značné vzdálenosti i po značnou dobu, někdy až v rámci dvanácti hodin. Mnoho z těchto programů zůstalo v utajení, možná proto, že i dnes jsou zvířata určená ke stejným účelům (Marr, 2002). Jedním z projektů bylo využívat holubů při průzkumu cest a detekci možných přepadení. Holubi letěli napřed před konvojem, neměli reagovat na osoby na cestě, zato měli označit osoby mimo cestu. V konečných fázích tréninku byly osoby maskované velmi dobře, přesto je holubi dokázali rozpoznat. Při testování bylo provedeno 45 pokusů o přepad konvoje, ale holubi ani jednou nezklamali (Bihm et al., 2010b).
Záchranářští racci.
http://www3.uca.edu/iqzoo/Exhibits/rescue_birds.htm
Ne vždy pracovali výlučně operantním podmiňováním. Díky práci etologa Konrada Lorenze zjistili, že se ptáci dobře váží na člověka a spolupracují s ním, pokud jsou člověku vystaveni ve fázi vtištění – imprintingu. Bez této silné vazby na člověka by pravděpodobně nedošlo k událostem jednoho tréninku na jezeře, kdy učili racky vyhledávat na vodě ztroskotané piloty. Používali k tomu figurínu, která měla na vestě připnutý kroužek, a úkolem racka bylo figurínu najít a kroužek donést zpátky. Protože se často ptáci dostávali mimo dohled trenérů, kroužek sloužil jako jednoznačný důkaz, že úkol splnili. Při jedné cestě zpět na racka zaútočil orel. Několikrát na něj nalétl, i ho srazil do vody, ale racek kroužek nepustil. Naposledy ho dostihl těsně před přistáním do lodi a drápem ho probodl skrz naskrz. Racek přežil operaci a poté se opět vrátil do práce (Bihm et al., 2010b).
Po Kellerově smrti se Marian rozhodla dokončit doktorandské studium. Vždy měli v úmyslu ho dostudovat, ale ABE je zaměstnávalo natolik, že jim nezbyl čas. Když Bob Bailey posílil tým, dokázala Marian dojíždět na Arkansaskou univerzitu, i když postup byl pomalý (Marr, 2002). V roce 1972 ABE otevřelo Animal Wonderland, kde mohli diváci každý den vidět vystoupení delfínů, lachtanů i největší show s ptáky na světě (Cook-Hasley and Wiebers, 1999). Dalšími atrakcemi byla domácí zvířata – kozy, které vozily dětské kočárky, prasata pumpující ze studně vodu, krávy hrající na harmoniky. Čtvrtina výdělku šla na podporu vědeckých projektů, které si na sebe nevydělaly samy (Marr, 2002).
V roce 1976 se Marian podruhé vdala a to za Boba Baileyho, v roce 1977 pracovala na své disertační práci, která zkoumala schopnosti ptáků rozlišit na velkou vzdálenost detaily určitého cíle. Zjišťovat senzorické schopnosti jí pomáhalo to, že dokázala předtím ptáky naučit klovnutí do různých tlačítek podle toho, jestli vidí desku s horizontálními nebo vertikálními pruhy. Zatímco slepice se orientovaly jen na tucet metrů, racci a vrány dokázali cíl rozeznat na téměř čtvrt míle. Titul Ph.D. získala v roce 1978 (Marr, 2002). Od roku 1981 vyučovala psychologii na Hendersonově státní univerzitě (Cook-Hasley and Wiebers, 1999).
Protože se Marian chtěla věnovat pedagogické činnosti, Animal Wonderland zavřeli na začátku osmdesátých let a postupně ukončovali činnost i dalších komerčních projektů, na konci osmdesátých let došlo i na IQ Zoo (Cook-Hasley and Wiebers, 1999). Animal Behavior Enterprises ukončilo svoji činnost v roce 1990. Za 47 let svého působení trenéři pracovali s více než 15 tisíci zástupci více než 140 zvířecích druhů (Bailey and Gillaspy, 2005). Marian a Bob získali v roce 1995 od Arkansaské asociace psychologů ocenění za celoživotní dílo. Marian odešla do důchodu v roce 1998, kdy na Hendersonově univerzitě zastávala místo profesorky. Tehdy jí bylo 78 let (Bailey and University of Central Arkansas).
Nezůstala ale v důchodu dlouho. Ukázalo se, že uzrál čas k tomu, o co se Bralandovi snažili už ve čtyřicátých letech. Trenérka delfínů Karen Pryor vydala v osmdesátých letech knihu Svého psa nestřílejte (Don't Shoot the Dog!) a v roce 1992 společně s Gary Wilkesem uspořádala první seminář pro 250 trenérů psů, a tak se začaly principy tréninku pomocí operantního posilování šířit mezi veřejnost (Pryor, 2013). Marian a Bob od začátku devadesátých let až do posledního měsíce před smrtí Marian v roce 2001 jezdili po Americe, zaznamenávali rozhovory s předními osobnostmi v oblasti tréninku zvířat a vedli semináře a workshopy pro veřejnost (Bailey and University of Central Arkansas). Tak zvané Slepičí tábory (Chicken Camps), kde se trenéři učí, jak modifikovat chování zvířat, se i dnes pořádají po celém světě, jako pod vedením Boba Baileyho, tak dalších trenérů (Operant Conditioning, 2010). První v České republice nás čeká tento duben (Dogsports, 2013).
Pokud jste dočetli až sem, tak je vám asi jasné, že čtveřice Skinner, Breland, Breland Bailey a Bailey jsou moji hrdinové. Kdo se o nich zmíní s neúctou, ten se se zlou potáže. Je klidně možné, že bez nich by byl Skinner jen dalším z řady amerických psychologů, navíc by mohl zůstat nepochopený jako manipulativní podivín, který prohlásil, že neexistuje svobodná vůle (Pryor, 1999). Je pravda, že jejich zábavní show, kde zvířata předváděla triky pro ně nepřirozené a antropomorfizující, vypadají velmi lacině v porovnání s dnešním využitím tréninku pomocí pozitivního posilování za účelem zmenšení stresu při manipulaci a poskytnutí zábavy zvířatům v lidské péči. Ale jak podotkli Marian Breland a Bob Bailey v dopisu řediteli National Marine Fisheries Services, jednou z funkcí zábavních show je i vzdělávání veřejnosti, a je možné, že bez potulných cirkusů s vystoupením lachtanů, by se veřejnost vůbec nezajímala o to, že jsou tato zvířata masově vybíjena pro maso, kožešinu a tuk (Bailey and Breland, 1974). Především učili ostatní trenéry, že při dodržení postupů teoretických poznatků o schopnostech a zákonitostech učení zvířat, není nutné používat tresty, aby člověk získal tak spolehlivé chování, že obstojí i pro armádní účely. Pro mě osobně jsou důkazem, že vědomosti, láska a úcta ke zvířatům a důvěra ve svoje schopnosti může změnit svět.
Bailey, R. E., Breland M. Letter to Robert W. Shoning. 5th March 1974. Dostupné také z: < http://www3.uca.edu/iqzoo/Media/PDF/Originals/090974_white.pdf >.
Bailey, R. E., Gillaspy, J. A. 2005 Operant Psychology Goes to the Fair: Marian and Keller Breland in the Popular Press, 1947-1966. The Behavior Analyst. 28 (2). 143 – 159.
Bailey, R. E., University of Central Arkansas. Biography: Marian Breland Bailey (1920 - 2001). [online]. [cit. 204-02-18]. Dostupné z: < http://www3.uca.edu/iqzoo/History/marian_biography.htm>.
Bihm E. M., Gillaspy Jr. J. A., Lammers W. J., Huffman S. P. 2010a. IQ Zoo and Teaching Operant Concepts. The Psychological Record. 60. 523 – 526.
Bihm E. M., Gillaspy Jr. J. A., Abbott H. J., Lammers W. J. 2010b. More Misbehavior of Organisms: A Psi Chi Lecture by Marian and Robert Bailey. The Psychological Record. 60. 505 – 522.
Breland, K., Breland M. 1961. The Misbehavior of Organisms. American Psychologist. 16. 681-684.
Cook-Hasley, B. L., Wiebers, T. 1999.. Marian Breland Bailey: A Pioneer in the History of Applied Animal Psychology. [online]. [cit. 2014-02-16]. Dostupné z: .
Dogsports. [online] Šimona Drábková. 2013. [cit. 2014-02-20]. Dostupné z: < http://dogsports.webnode.cz/seminare/ >.
Marr, J. N. 2002. Marian Breland Bailey: The Mouse Who Reinforced. The Arkansas Historical Quarterly. 61 (1). 59-79.
Operant Conditioning. 2010. DVD. Pantheon. Borlänge, Sweden. Distribution by House of Learning. 72 min.
Patient Like a Chipmunk. 2011. DVD. Dogwise Publishing. 45 min.
Peterson, G. B. 2004. A Day of Great Illumination: B. F. Skinner's Discovery of Shaping. Jounal of the Experimental Analysis of Behavior. 82 (3). 317 – 328.
Pryor, K. 2013. History of Clicker Training I. [online] 24th September 2013. [cit. 104-02-20]. Dostupné z: < http://www.clickertraining.com/node/153 >.
Pryor, K. 1999. Svého psa nestřílejte. Práh. Praha. 197 s. ISBN: 978-80-7252-321-4.
Skinner, B. F. 1938. The Behavior of Organisms: An Experimental Analysis. The Appleton-Century-Crofts, Inc. New York. p. 457.
Copyright všech fotografií Robert E. Bailey and University of Arkansas.