为什么要填that而不是 which

楼上的回答是正确的，不过可能要解释多一些提问者才能更明白。
如果是定语从句的话，从句也是句子，也需要有主、谓、宾的一般基本成份（尤其是主谓不能少）
而这里假定是定语从句的话，则that/which指难题，显然这个成分在后面假定的定语从句中应该是宾语的成份。再来看剩下的成份：they themselves,是主语，couldn't只是情态动词，不能直接做谓语，因此这里少了做谓语的成份。（需注意，由于这里没有所谓的并列的概念（从句不能视作主句的并列），所以也不存在省略谓语的情况。因此如果这句真要成为定语从句的话，一定要在从句里补上一个动词作谓语，如：
.... problem that they themselves couldn't solve.
因为这个谓语动词的缺失，所以上句并不是定语从句，因此不能填that/which, 而填上while的话就是将a four-year old boy should .... while they couldn't 构成并列句，突出两个句子的反差或对比，后面的句子其实写全的话是while they themselves couldn't work out this difficult problem. 后面的成份对前面一句因为重复，所以略去不写。

the way 做先行词，定语从句的引导词只有以下三种：
way 后面跟定语从句有三种形式。
(1) way + in which + 定语从句
例如：
She was pleased with the way （in which ）he had accepted her criticism.
(2) way + that +定语从句
例如：
They didn’t do it in the way（ that ）we do now.
(3) way + 定语从句 ， 省略引导词
例如：
He didn’t speak the way （不填）I do.
不存在the way which的用法。