Начав свою просветительско-педагогическую деятельность, Ы. Алтынсарин разъясняет местному населению
Его стремление учить детей казахов таким образом, чтобы они могли быть полезными своему народу и приобщиться к достижениям земледелия, промышленности встретили сопротивление с двух сторон. Царская администрация была заинтересована в подготовке нижнего звена чиновников из местного населения, способных вести делопроизводстве на русском языке, быть писарями, переводчиками, воспитанными в духе приспособленности к колониальной политики царизма. Поэтому она внешне не противодействовала инициативе Алтынсарина по обучению детей казахов русскому языку, но поддержки идее широкого образования не оказывала никакой. С другой стороны, местное духовенство противодействовало новшествам Ибрая, стараясь внушить, что он якобы хочет "крестить" казахских детей и подготовить их к "солдатской службе" в русской армии. Алтынсарин действительно выступал против невежества, суеверия, замыкания в рамках устаревшего кочевого быта и тех служителей культа, которые ислам использовали в корыстных целях и даже в интересах имперской идеологии, согласно которой, "следуя Магомету, будьте слугами белого царя".
Начав свою просветительско-педагогическую деятельность, Ы. Алтынсарин часто выезжает в аулы, разъясняет местному населению значение и цели, пользу светского образования, организует сбор средств для строительства школ. При нем открылись русско-казахские школы в Тургае, Илецкой защите, Иргизе, Актюбинске. Он добивается открытия первой женской школы.
«На нашу долю,— писал он,— теперь выпало самое тяжелое, ответственное время, когда все надо еще создавать, вводить эти нововведения в темную среду и освещать все, насколько хватит у нас сил и уменья... Вот и таскаюсь я по степям, выпрашивая деньги у обществ и разных общественных уездных и областных волостей». По его инициативе было открыто 7 начальных школ, 4 двухклассных училища для детей-казахов, в том числе первые школы для казашек с преподаванием в них предметов на родном и русском языках. В 1883 году в Орске была открыта казахская учительская семинария.
Ы. Алтынсарин не только создавал светские народные школы, но и научно разрабатывал для них дидактические принципы обучения и воспитания детей, писал учебные и методические пособия.
Всю свою жизнь Алтынсарин посвятил просвещению родного народа. «Народ казахский сам по себе представляет благодатную почву для образования»,— писал он.
Алтынсарин был убежденным сторонником содружества русского и казахского народов. Он пропагандировал демократическую русскую литературу, использовал опыт русских педагогов-писателей К. Д. Ушинского и Л. Н. Толстого.