Главная проблема, к решению которой Я. Зельдович шел последние двадцать лет своей жизни, - это вопрос о происхождении структуры Вселенной, о причинах, приводящих к появлению удивительно разнообразного мира галактик и их скоплений. Важнейшее достижение его в этой проблеме – «теория блинов» - получила широкое признание во всем мире. Из 20 прекрасных книг, написанных Яковом Борисовичем, несколько книг посвящены астрофизике и теории Вселенной. Между тем широко известны его слова, сказанные в 1975 году: «Когда я был молодым, я думал, что наука в состоянии объяснить происхождение Вселенной. Теперь я не столь уверен в этом».
Окружающих восхищала удивительная способность Якова Борисовича излагать сложнейшие проблемы простым и понятным языком. На одном из теоретических семинаров, посвященных расширяющейся Вселенной, он показал, что основные результаты можно получить, не прибегая к теории относительности, а только на основе классической теории Исаака Ньютона. Ученые вспоминают, что, отойдя от доски, на которой только что произвел соответствующие простые выкладки, он немного помолчал и сказал: «Какая все – таки замечательная наука – классическая механика! Я работал в разных областях физики, но ее люблю больше всего!» Это свое решение Я. Зельдович изложил затем в книге «Элементы математической физики». Для своего младшего сына Бориса он пишет книгу «Высшая математика для начинающих», которая более 10 раз переиздавалась в нашей стране и была переведена на многие языки мира. Книга содержит большое число примеров применения математики к физическим задачам. Помимо физики он ищет решения задач из других областей знания. В книге «Элементы прикладной математики» он описывает свое решение вековой задачи о распределении простых чисел в натуральном ряду.
Сотням молодых людей Яков Борисович помог найти их место в науке, щедро делясь своими знаниями, идеями, опытом. В Институтах химической физики, прикладной математики, космических исследований, физических проблем Академии наук, Государственном астрономическом институте при МГУ работают научные школы, созданные Я. Зельдовичем. Он внес громадный вклад в становление теории горения и детонации, физики взрыва и ударных волн, ядерной физики и физики элементарных частиц, теории гравитации и космологии, астрофизики высоких энергий и рентгеновской астрономии. Наука для него была превыше всего. Он шел в ней своим неповторимым путем. Я. Зельдович умер в 1987 году.
Яков Борисович любил цитировать отрывок из стихотворения Шиллера, перевод которого он выполнил сам: «Лишь полнота, что к ясности ведет, укажет в пропасть путь, где истина живет».