Вот нужен опытный взгляд.
А то вдруг где-то в коде косякнул.

Внимательно просмотрел несколько раз глазами. Я так понимаю что центральный CALL RBX это и есть точка входа в форт из переходника. Вы до него "подушку" делаете, а после возврата не удаляете ее со стека, хотя возможно, последующий POP RSP и есть востановление или это делается внутри вызываемого форт слова. Не зная всей идеии тяжело сказать.

А можно увидеть весь код ФС?

Восстановление делает POP RSP

Весь код?

Пожалуйста,
https://cloud.mail.ru/public/UtSu/yPZw6zh1X
Все что касается 64-битов в паgке src2

Извините за задержку с ответом. После скачивания архива файл NOVA-CDW.EXE был тут же уничтожен защитником. Пришлось еще раз делать это на виртульной машине. После распаковки архива вышеприведенного кода относящегося к калбекам для х64 там не оказалось...

А зачем вы сохраняете в стеке все регистры? Параметры могут быть только в rcx, rdx, r8, r9 а, остальные будут передаваться уже через стек над т.н. регистровой областью стека. Так что скорее всего тут не совсем верно. (Хотя я не видел в винде калбеков с более чем 4-мя аргументами, но буду рад если кто покажет).

В 32-битах передаётся все через стек
на 64-битах иначе?
Я прост оне нашёл документации у винде по калбекам.
А сохраняю я это всё на случай, если винда врёт

С переходом на 64 бита интерфейс вызова системных функций поменялся кардинально. Больше нет понятий stdcall, c-decl, fastcall, вместо этого есть единый механизм вызова. Документации по калбекам нет, так как то как система будет вызывать калбек, ничем не будет отличаться от того, как вы будете вызывать системную функцию. Да и тут информации не-много. Попробую пролить свет на эту тему.

Первые 4 целочисленных аргумента всегда передаются через регистры - RCX, RDX, R8, R9. Если это вещественные числа - то соответсвенно в регистрах XMM0, XMM1, XMM2, XMM3. (FPU больше не используется). Порядковый номер первых 4х аргументов закреплен за регистром. Тоесть, если метод имеет 4 аргумента: foo( INT, FLOAT, INT, FLOAT ), то распределение регистров будет следующее: RCX, XMM1, R8, XMM3. Еще пример: для foo( FLOAT, INT, INT, FLOAT ) -> XMM0, RDX, R8, XMM3. Думаю теперь идея ясна. Главная трудность тут в том, что для того чтобы написать правильный переходник для калбека или подготовить системный вызов, необходимо точно знать спецификацию метода.

Далее, если метод имеет более 4х аргументов, то все они передаются через стек над т.н. shadow space. Это дополнительные 4 ячейки стека над адрессом возврата. Эти ячейки выделяются всегда для того, чтобы вызываемая процедура могла сохранить регистры с аргументами и освободить их для свох нужд. Эти ячейки не иннициализируются никак. Если на входе в процедуру RSP указывает на адресс возврата, то [RSP+8] <- место для хранения RCX, [RSP+16] - для RDX, [RSP+24] - для R8, и [RSP+32] - для R9. Т.о. 5-й аргумент, если он есть то, будет в [RSP+40], 6-й в [RSP+48], ну и т.д.
Вызывающая процедура ответственна за созднание и удаление этой области стека после вызова. Не важно, сколько аргументов имеет процедура или не имеет их вообще, - эти 4 ячейки должны быть выделены на стеке перед вызовом. Вы каллбеке можете использовать их на свое усмотрение.

Возврат значения для целых как и раньше - в RAX, для вещественных - в XMM0.

Исходя из всего этого, я лично пришел к выводу, что написать универсальный варинат каллбек-переходника или системного вызова для 64-бит форт системы не получиться. Необходимо от пользователя получить спецификацию метода и на ее основе скомпилировать уже переходник: для каллбека передавать параметры в форт-систему и возращать значение в ОС, для системного вызова - готовить регистры, резервировать стек... Еще как вариант, учитывая что реальных комбинаций не так уж и много, можно банально предусмотреть их все, ну и выбирать подходящий зная сигнатуру метода.

Про системные вызывы понятно. Документация и примеры есть, хоть что-то хорошее.
А вот с калбеками беда.

Впрочем, универсальный переходник делать-то и не требуется.
Для обычных сисей черех регистры.
Для флоатов (OPENGL, например) напишем другую обертку, благо в названии функций уже написано, какие параметры они жрут)

А со всеми остальными, хм, ну придумаем что-нибудь)

Может кто-нибудь скинуть дизассемблерный листинг или исходиники на асме какого-нибудь калбека под 64 бита?

Ещё, если верить https://docs.microsoft.com/en-us/cpp/bu ... w=msvc-160
то флоаты также передаются в обычных регистрах, а не в XMM

Разве? Вот же цитата с буржуйского сайта:
Integer arguments are passed in registers RCX, RDX, R8, and R9. Floating point arguments are passed in XMM0L, XMM1L, XMM2L, and XMM3L.

Из интересного там еще это:
The x64 ABI considers registers RBX, RBP, RDI, RSI, RSP, R12, R13, R14, R15, and XMM6-XMM15 nonvolatile. They must be saved and restored by a function that uses them.

Меня больше привлёк этот абзац.



В любом случае, надо будут все пробовать)
Если в регистру совать флоаты и нет вылета, то работает. Иначе, едлаем другую обёртку)

Тут речь о функциях с переменным числом параметров (типа printf): они должны пихать 5-й и последующие параметры в стек... А первые 4-х параметров надо
пихать либо в RXX (если параметр целочисленный), либо и в RXX и в XMMXX (если параметр типа float)... Если бы я писал 64-битный Форт, то на всякий случай попробовал бы пихать каждый из параметров в оба регистра (целочисленный и float)... Но я пишу 8-битный...

Привожу свой. (К сожалению шрифт не моноширинный и форматирование не держиться, так что все мои старания по рисованию стрелочек свелись на нет. Лучше скопировать в редактор с моноширинным шрифтом, выровнять и смотреть там.)

Происходит следующее, - в заранее подготовленный 96 байтный блок на момент его компиляции в шитый код заносятся:
адресс процедуры на С, которая собственно и будет обеспечивать передачу аргументов каллбека в форт и возврат значения в ОС;
адресс форт-слова, которое будет вызвано - пользовательский обработчик каллбека;
колличество аргументов и флаг возврата значения. Если он установлен, то со стека форта снимется последнее значение и занесется в регистр RAX;
указатель this объекта Task (у меня ООП тут совсем не ради ООП, не обращайте внимания);
Разумеется, область памяти куда все это компилируется должна иметь атрибуты execute-read-write.

Далее, адресс этого переходника передается в системную функцию которая будет вызывать калбек. При вызове из системы, делается перепрыжка через область данных, сохраняются аргументы и осуществляется прыжок в обработчик на С. Заметьте, так как я не изменил RSP, мне незачем выделять на стеке 4 ячейки для своего собственного обработчика, он будет использовать те что уже зарезервировала ОС. Ну и естесвенно возрват осуществиться уже прямо в ОС.

Учитывая, что бработчик на С принимает один аргумент (RCX - указатель на весь переходник), то мне просто необходимо место для хранения аргументов каллбека и я не могу в этом случае использовать область "оттенения регистров", ведь ее может использовать мой собственный обработчик. Именно по-этому оно резервируется в самом переходнике. Если же вы пишете форт на ассемблере, то вы спокойно можете сохранить регистры с аргументами в те самые 4 ячейки, которые уже выделенны на стеке и т.о. сократить размер переходника на 32 байта (указатель this тоже можно выбросить). Далее прыжок уже в универсальный обработчик так как у него есть все необходимое для обеспечения работы форт-слова в калбеке. Если стеки ОС и форта не связанны, то форт-слово из каллбека получает доступ к своему родному стеку что может быть полезно.

Надо делать 64-битный форт сразу с кэшированием четырех верхних элементов стека в регистрах rcx/rdx/r8/r9, тогда колбэки получаются автоматически на сдачу...

Тогда уж полностью регистровую форт-машину.
Что мелочиться) Так даже проще будет)
Только стек ограничим 11 переменными, потому что мне нравится это число)

? как в модели калькулятора MK-61, MK-161 или HP (RPN, RPL) на три элемета стэка X,Y,Z (плавающей арифметики) + T регистр.
(а на этой системе команд уже запустить Форт - Callisto Каллисто-2)
Ath , вроде, забанен на местном форуме.
Местная тема: Каллисто 1.0 для «Электроники МК-161»