Одно и то же слово или сочетание в разных случаях может выделяться или не выделяться запятыми. К таким, например, относится частица «что ли». Она выделяется запятыми в середине и в конце предложения. Приведём пример: В автобусе, что ли, едешь? Ты не идёшь, что ли? В начале же предложения конструкции с «что ли» не обособляются. Обычно их относят к просторечию. Приведём пример: Что ли рассказать вам правду…
В вашем примере значение частицы «что ли» то же, что и у частицы «разве». Попробуйте заменить одно слово другим: «Ты не сможешь этого сделать разве?» Разве здесь нужна запятая перед «разве»?)) «Может быть» здесь не подходит по смыслу: «Ты не сможешь этого сделать может быть?»
Понимаю, что по правилам так. Только, сдаётся мне, для данного примера употребления со временем правила могут измениться, потому что интуитивно запятая здесь не нужна ни интонационно, ни по смыслу. Нет ни выделения, ни разделения, ни восклицательной интонации.
Как вы верно заметили, «по правилам так», а мы как раз следуем официальным рекомендациям (например, https://gramota.ru/biblioteka/spravochniki/spravochnik-po-punktuatsii/chto-li), своих у нас нет :-) «Что ли» может иметь значение вводного слова, выражая неуверенность (обычно при вопросе). Если со временем правила изменятся, мы об этом узнаем и внесём изменения в алгоритмы.