NASM malloc returns NULL

Question

在学习NASM的过程中，我尝试创建一个基本程序来测试malloc的功能。我把它贴在下面：

bits 64
extern malloc
section .data
ARRAY_SIZE:             equ 27
array:                  dq 1
error_message:          db "Malloc returned NULL!", 10
error_message_length:   equ $ - error_message
section .text
global _start
_start:
    ; try to allocate an array of bytes in the heap memory using malloc
    push dword ARRAY_SIZE
    call malloc
    ;; if malloc returned NULL, throw an error
    cmp rax, 0
    je err_out
    mov [array], eax                ; save a pointer to the allocated memory in array
    ; fill the array with numbers equal to the indices at that location
    fill_for:
    xor edx, edx                    ; use edx for the for loop index
    .for_start:
    cmp edx, ARRAY_SIZE             ; break if edx >= BUFFER_SIZE
    jg .for_end
        mov [array + edx], edx      ; array[i] = i;
    inc edx
    .for_end:
    ; print the numbers in array
    print_for:
    xor edx, edx                    ; use edx for the for loop index
    .for_start:
    cmp edx, ARRAY_SIZE             ; break if edx >= BUFFER_SIZE
    jg .for_end
        mov eax, [array + edx]      ; print array[i]
        call print_small_number
    .for_end:
print_small_number:
; allocate stack space for the two-digit number string (two digit chars + '' = 3b)
;; save the old rbp
mov [rbp], rsp
sub rsp, 8
mov rbp, rsp
;; allocate space for the number string
sub rsp, 3
;; save rdx for the main function
sub rsp, 8
mov [rbp + 3], rdx
    ; turn the (assumed two-digit in base 10) number into a string in number_string
    ;; initialize the number to 0x30, 0x30, 0 (0x30 is the offset to turn a number into a base-10 digit; 10 = 'n')
    mov byte [rbp], 0x30
    mov byte [rbp + 1], 0x30
    mov byte [rbp + 2], 10
                                    ; the number to print is already in eax
    mov bl, 10                      ; divide the message length string by 10 to separate the 10s and 1s digits
    div bl                          ;; the quotient is the 10s digits and the remainder is the 1s
    add [rbp], al                   ; move the resulting char into the first slot in number_string
    add [rbp + 1], ah               ; move the resulting 1s digit char into the second slot in number_string
    ; print the message length string
    mov eax, 4
    mov ebx, 1
    mov rcx, rbp                    ; the string starts at rbp
    mov edx, 3                      ; two digits +  = 3 chars = 3b
    int 0x80
; return
;; restore the old rdx for the main function
mov rdx, [rbp + 3]
add rsp, 8
;; deallocate the number string
add rsp, 3
;; restore the old rbp
add rsp, 8
mov rbp, [rsp]
ret
err_out:
    ; print error_message
    mov eax, 4
    mov ebx, 1
    mov ecx, error_message
    mov edx, error_message_length
    int 0x80
    ; end the program
    mov ebx, 0
    mov eax, 1
    int 0x80

然而，当我从这个基本的NASM程序调用malloc时，它返回NULL（0），如打印出以下消息所示：

Malloc returned NULL!

我在一台6GB RAM的笔记本电脑上运行这个程序，几乎没有其他应用程序打开，而且我只试图分配27个字节，所以内存不足的可能性微乎其微。

我知道，如果给定的size参数为负数，它可能会返回NULL，但正如您在代码中看到的那样，情况并非如此。

有人有什么建议吗？我不明白为什么这个malloc调用会返回NULL。

编辑：

这个例子是在64位Linux Mint 17 Qiana中组装和运行的，使用以下命令，因为BASH脚本：

nasm -f elf64 "$1.asm" -l "$1.lst" &&
ld -s -o "$1" "$1.o" -lc &&
./"$1"

Answer 1

malloc()的参数应该进入rdi，而不是推送到堆栈上。它可能会失败，因为您正在传递0，或者某个极高的数字。

还有：

mov [array], eax

应该是：

mov array, rax

由于malloc()能够返回一个无法容纳四个字节的地址，并且array此时不包含有效的内存地址，因此您不应该间接通过它。