Като начало, разгледайте алгоритъма на Алфа-Бета отсичането, който е класически за този случай:
http://en.wikipedia.org/wiki/Alpha-beta_pruning
Разгледайте и статията за Minimax за по-теоретичен поглед:
http://en.wikipedia.org/wiki/Minimax
За поглед над проблема в дълбочина, разгледайте темите за простраство на състоянията и търсене в него в литературата.
Една много пълна кига по въпроса е: "Artificial Intelligence: A Modern Approach" на Russel и Norvig. Доста е голяма, но можете да разгледате съдържанието поне и да се задълбочите, където ви е интересно. Тук май намерих PDF на цялата книга:
http://read.pudn.com/downloads153/ebook/668586/Artificial%20Intelligence%20A%20Modern%20Approach/Artificial%20Intelligence%20A%20Modern%20Approach.pdf
Има и литература на български. Ако се интересувате, ще препоръчам.