Слова хоть и близки по смыслу, но имеют разное значение. Внештатный — не числящийся в штате, оформленный на временную работу и т. п. Внештатным может быть сотрудник. Нештатный же — не предусмотренный в штате (т. е. вне расписания, плана). Нештатной может быть ситуация.